23.3 C
Tokyo
Tuesday, May 12, 2026
ホームタグモデルをより安全にしリスクのある対応を軽減します

Tag: モデルをより安全にしリスクのある対応を軽減します

spot_imgspot_img

シアトルの新興企業は、臨床専門知識を活用して AI モデルをより安全にし、リスクのある対応を軽減します。

グリン・ロード氏、Mpathy の共同創設者兼 CEO。 (強調した写真)多くの若者を含む何百万人ものユーザーが、AI チャットボットを最前線の「アドバイザー」や友人として利用することが増えている中、シアトルに本拠を置く新興企業 mpath は、こ​​れらのデジタルエージェントが最も重要なときに危険なアドバイスを与えないようにするために介入している。企業コミュニケーションにさらなる共感をもたらすために2020年に設立された同社は、基礎モデル開発者とLLMベースのアプリケーションチームのサポートを拡大すると月曜日に発表した。目標は、AI がメンタルヘルスと医療サポートのためのインターフェースに進化するにつれて、mpath のソフトウェアをより幅広い AI 開発者や企業パートナーが利用できるようにすることです。「私たちは基本的に、子供、精神的健康上の問題を抱えている人、危機に瀕している人など、弱い立場にあるユーザーにとってモデルをより安全にするための評価セットやトレーニング データセットを作成しています」と、Mpathy の共同創設者兼 CEO であり、公認心理師であり NLP 研究者であるグリン ロード氏は述べています。臨床試験や病院環境での長年の取り組みにより、このスタートアップは、AI チームが展開前にモデルの動作をストレス テストし、応答を評価し、必要に応じてフラグを立てたり、リダイレクトしたり、介入したりできる安全装置とのリア​​ルタイムの相互作用を監視するのを支援しています。「人々がビジュアル AI 用の合成データを作成するのと似ています」とロード氏は言います。 「子供が毎日 Waymo...

必読

spot_img