グリン・ロード氏、Mpathy の共同創設者兼 CEO。 (強調した写真)
多くの若者を含む何百万人ものユーザーが、AI チャットボットを最前線の「アドバイザー」や友人として利用することが増えている中、シアトルに本拠を置く新興企業 mpath は、これらのデジタルエージェントが最も重要なときに危険なアドバイスを与えないようにするために介入している。
企業コミュニケーションにさらなる共感をもたらすために2020年に設立された同社は、基礎モデル開発者とLLMベースのアプリケーションチームのサポートを拡大すると月曜日に発表した。
目標は、AI がメンタルヘルスと医療サポートのためのインターフェースに進化するにつれて、mpath のソフトウェアをより幅広い AI 開発者や企業パートナーが利用できるようにすることです。
「私たちは基本的に、子供、精神的健康上の問題を抱えている人、危機に瀕している人など、弱い立場にあるユーザーにとってモデルをより安全にするための評価セットやトレーニング データセットを作成しています」と、Mpathy の共同創設者兼 CEO であり、公認心理師であり NLP 研究者であるグリン ロード氏は述べています。
臨床試験や病院環境での長年の取り組みにより、このスタートアップは、AI チームが展開前にモデルの動作をストレス テストし、応答を評価し、必要に応じてフラグを立てたり、リダイレクトしたり、介入したりできる安全装置とのリアルタイムの相互作用を監視するのを支援しています。
「人々がビジュアル AI 用の合成データを作成するのと似ています」とロード氏は言います。 「子供が毎日 Waymo の前を走るわけではありませんが、合成データを使用して 10,000 通りのシミュレーションを行うことができます。これは基本的に私たちが行っていることですが、言語の心理的な側面からです。」
ある初期の取り組みで、mpath 氏は、臨床医主導のプログラムにより、モデル作成者が望ましくない、または危険な反応を 70% 以上減らすことができたと述べました。
拡大を促進するために、mpath は Foundry VC 主導で 2025 年にさらに 1,500 万ドルを調達しました。同社は、基本的な安全性への取り組みにより、昨年終了した四半期と比較して5倍の成長をもたらしたと述べた。
Mpath は 2021 年から、企業内のテキスト、電子メール、音声通話などで発生する会話を分析するソフトウェアの構築を開始して以来、高リスクの臨床状況に対応するモデルを開発してきました。このスタートアップの現在の規模の「Human-In-The-Loop」インフラストラクチャには、数千人の認定臨床専門家の世界的ネットワークが含まれています。需要に応えるため、毎週さらに数百人が参加しています。
「この会社は数四半期前とは大きく異なります」とロード氏は語った。
2023年GeekWire AwardsのStartup CEO of the Yearのファイナリストであるロード氏は、自らを「テクノロジー楽観主義者」でAIに関しては「現実主義者」と称し、テクノロジーの有用性を「徹底的に受け入れている」と付け加えた。
「24時間年中無休で対応してくれるセラピストのような存在がいるなら、その人に相談してそれを利用するのはまったく驚くべきことではありません。何もしないよりはマシかもしれません」と彼女は言う。 「このテクノロジーには本当に良い影響を与える可能性がたくさんあると思います。人間と AI の両方を正確に、よく聞き、害を及ぼさないように訓練できると思います。」
Mpath は特定の企業やモデルを特定しませんでしたが、数千万人のユーザーにサービスを提供するネイティブ AI モデルの主要な開発者と協力していることを認めました。このスタートアップには、Panasonic WELL、シアトル小児病院、Transcend などの臨床パートナーもいます。
ロード氏によると、約34人を雇用し「野火のような雇用」を行っているMpathyは、最高マーケティング責任者のRebekah Bastian氏(Zillow、AllTrail、Glowforge)を加えて経営陣を成長させたという。最高科学責任者であるアリソン・セレゾ氏は、米国心理学会 AI 諮問委員です。


