AI チャットボットは、ユーザーがテクノロジとの関係を築いたり、急性のメンタルヘルス危機の際の治療やサポートに AI チャットボットを使用したりするときに生じるメンタルヘルスのリスクについて、精査されてきました。同社がユーザーや専門家からの批判に応える中、OpenAIの新任リーダーの1人は、この問題が自分の仕事の最優先事項であると述べた。
今年 5 月、Meta の卒業生である Fidji Simo が OpenAI のアプリケーション CEO として採用されました。 CEOのサム・アルトマン氏の研究範囲外のあらゆるものと、同社のAIモデルのコンピューティング・インフラストラクチャを管理する任務を負った彼女は、月曜日に公開されたWiredのインタビューで、マーク・ザッカーバーグ氏が率いるテクノロジー企業とアルトマン氏が率いるテクノロジー企業で働くことの顕著な対照について詳しく語った。
「メタ社で私たちがうまくできなかったと思うのは、実際のところ、私たちの製品が社会にもたらすリスクを予測していたことです」とシモ氏はワイアードに語った。 「OpenAI では、こうしたリスクが非常に現実的になります。」
メタ氏はフォーチュンのコメント要請にすぐには応じなかった。
シモ氏は、Facebookとして知られていたMetaで2011年から2021年7月までの10年間働いた。過去 2 年半にわたり、彼女は Facebook アプリを率いてきました。
2021年8月、シモ氏は食料品配達サービスInstacartのCEOに就任した。彼女は 8 月に世界で最も価値のある新興企業の 1 つに 2 番目の CEO として入社するまで、4 年間同社を率いていました。
OpenAI での Simo の最初の取り組みの 1 つはメンタルヘルスであった、と 40 歳の Simo は Wired に語った。彼女が取り組んだもう 1 つの取り組みは、競争の激しい雇用市場で従業員の AI スキルを強化し、社内の AI による破壊をスムーズにするために、会社の AI 認定プログラムを立ち上げることでした。
「つまり、これは非常に大きな責任ですが、実際には私たちには最初に取り組むべき文化と優先事項の両方があると思うのです」とシモ氏は語った。
シモ氏は、この巨大テクノロジー企業に入社すると、風景を見るだけでメンタルヘルスの問題に対処する必要があることにすぐに気づいたと語った。
AI精神病とも呼ばれるこの病気の犠牲者になる人が増えています。専門家らは、ChatGPTのようなチャットボットがユーザーの妄想や被害妄想を助長し、入院や離婚、死亡につながる可能性があると懸念している。
10月に出版された査読付き医学雑誌BMJによるOpenAI社の監査では、毎週数十万人のChatGPTユーザーが精神病、躁状態、または自殺願望の兆候を示していることが判明した。
最近のブラウン大学の研究では、メンタルヘルスに関するアドバイスのための ChatGPT やその他の大規模な言語モデルの使用の増加が、米国心理学会などの組織によって確立されたメンタルヘルスの倫理基準に組織的に違反していることが判明しました。
これらのメンタルヘルスの問題に対処するには「未知の」道を進む必要があるとシモ氏は述べ、OpenAIがさまざまな機能を継続的に展開することに内在するリスクがあると付け加えた。
「私たちがリリースする機能では毎週、『ああ、これも対処する必要がある安全上の問題だ』と思わせる新しい動作が現れます」とシモ氏は Wired に語った。
それにもかかわらず、Simo氏は、同社がChatGPTの10代のアカウントに対するペアレンタルコントロールを最近導入したことを監督し、OpenAIが「10代の若者を保護するための年齢予測」に取り組んでいると付け加えた。メタも来年初めまでペアレントコントロールに移行する。
それでも、毎回適切に対応するのは非常に困難です」とシモ氏は述べました。ユーザー数が膨大であるため (週に 8 億人)、「そこで私たちがやろうとしているのは、できるだけ多くの非理想的な行動を捕捉し、モデルを継続的に改善することです。」
