裁判所文書によると、GoogleとCharacter.AIは、Character.AIプラットフォーム上でホストされているAIチャットボットに関連して子供が自殺で死亡したり精神的被害を受けた家族が起こした複数の訴訟を和解することで合意したという。両社は「大筋合意」に達したが、具体的な内容は明らかにされておらず、文書にも責任の所在は認められていない。
法的請求には、過失、不法死亡、欺瞞的な取引慣行、製造物責任が含まれます。このテクノロジー企業に対して起こされた最初の訴訟には、自殺する前にゲーム・オブ・スローンズのチャットボットと性的な会話をした14歳の少年、シーウェル・セッツァー3世が関係していた。別の事件では、17歳の少年が、チャットボットが自傷行為を奨励し、視聴時間を制限されたことへの報復として両親を殺すのが合理的な方法であると示唆したと述べた。この訴訟にはコロラド、テキサス、ニューヨークなど複数の州の家族が参加している。
元 Google エンジニアの Noam Shazeer 氏と Daniel De Freitas 氏によって 2021 年に設立された Character.AI を使用すると、ユーザーは現実または架空のキャラクターに基づいた AI を活用したチャットボットを作成し、対話することができます。 2024年8月、Googleは創業者2人を再雇用し、27億ドルの契約の一環としてCharacter.AIの技術の一部をライセンス供与した。 Shazeer 氏は現在、Google の主力 AI モデル Gemini の共同リーダーを務めており、De Freitas 氏は Google DeepMind の研究員です。
弁護士らは、事件に巻き込まれた子どもたちの死亡や精神的被害に寄与したとされるテクノロジーについてグーグルは責任を負うべきだと主張している。 Character.AIの共同創設者らは、Googleの会話型AIモデルであるLaMDAに取り組んでいる間に基盤技術を開発し、その後、開発したチャットボットのリリースをGoogleが拒否したため、2021年に同社を退職したと主張している。
グーグルは、和解に関するフォーチュンのコメント要請にすぐには応じなかった。遺族の弁護士とCharacter.AIはコメントを控えた。
現在、OpenAIに対して同様の訴訟が進行中である。その中には、ChatGPTが「自殺コーチ」の役割を果たしたと家族が主張するカリフォルニア州の16歳の少年と、チャットボットに促されて家族を無視して自殺したとされる23歳のテキサス州の大学院生が関わる訴訟も含まれる。 OpenAIは、自社製品が16歳のアダム・レイン君の死に関与していることを否定しており、同社はチャットボットの保護を強化するためにメンタルヘルスの専門家と協力し続けていると以前述べていた。
Character.AIは未成年者禁止
Character.AI はすでに、安全性を向上させ、さらなる法的措置から保護する方法で製品を修正しています。訴訟が増える中、2025年10月、同社は18歳未満のユーザーがAIペルソナと「オープン」チャットをすることを禁止すると発表した。このプラットフォームには、ユーザーを適切な年齢グループにグループ化する新しい年齢認証システムも導入されました。
この決定は、チャットボットが子供や青少年に与える影響に関するFTCの調査など、規制上の監視が強化される中で行われた。
同社は、この措置が「若者の安全を優先する前例」となり、未成年者の保護において競合他社よりもさらに進んでいると述べた。しかし、同社を訴えた家族の代理人弁護士らは当時、フォーチュン誌に対し、このポリシーがどのように施行されるのかを懸念しており、チャットボットに精神的に依存している若いユーザーへのアクセスを突然遮断することによる心理的影響について懸念を表明したと語った。
AI コンパニオンへの依存度の増加
この合意は、若者が友情や精神的なサポートを得るためにAIチャットボットに依存していることへの懸念が高まる中で行われた。
米国の非営利団体コモン・センス・メディアによる2025年7月の調査では、米国の10代の若者の72％がAIコンパニオンを実験したことがあり、半数以上が定期的に利用していることが判明した。専門家らは以前フォーチュンに対し、若者の精神的健康上の問題や孤立率が近年急激に上昇しているため、若者はAIチャットボットの限界を理解するのが難しい可能性があり、若者の精神的健康上の問題や孤立の割合が特に高まっているため、発展途上にある精神がこれらのテクノロジーによってもたらされるリスクに対して特に脆弱である可能性があると語った。
一部の専門家は、擬人化、長時間会話が可能、個人情報を記憶する機能などの AI チャットボットの基本的な設計機能が、ユーザーがソフトウェアと感情的な絆を築くのを促すと主張しています。
