億万長者の投資家マーク・キューバン氏は、CEOのサム・アルトマン氏が12月から「認証済み成人」向けにChatGPTでのエロチカを許可する計画を発表したことを受けて、OpenAIが保護者や学校の間で大規模な信頼危機に直面していると警告した。
キューバン氏はこの動きは無謀だとし、子供たちが同社の年齢確認システムを回避して不適切なコンテンツにアクセスできると考えた瞬間、親はChatGPTを放棄するだろうと述べた。
「これは逆効果だ。難しいことだ」とキューバン氏はアルトマン氏のXへの返答で書いた。「自分の子供が年齢制限を超えられないと信じる親はいないだろう。子供を別のLLMに押し込むだけだろう。なぜリスクを冒すのか?」
これは、未成年者が AI 生成コンテンツを含む露骨なコンテンツにアクセスできる可能性がある場合、保護者と学区が安全機能をテストする前に未成年者をロックダウンすることを意味し、これは賢明ではないビジネス戦略になります。
しかし、アルトマン氏は、変更を発表した最初の投稿の中で、ChatGPTは精神衛生上の問題につながるという批判に応えて同社の主力チャットボットの音声を制限したため、「限定的」で「あまり楽しくない」と主張した。同氏は、今後のアップデートにより、この製品は「人々が4.oで好んだものとより似た動作」が可能になると付け加えた。
心理的な懸念
キューバン氏は追加の投稿で、この論争は成人によるエロチカへのアクセスに関するものではないと繰り返し強調した。それは、子供たちが親の知らないうちに AI と感情的な関係を築く可能性、そしてその関係が潜在的に横向きになる可能性についてです。
「繰り返しますが、これはポルノに関するものではありません」と彼は書いた。 「これは、子どもたちがLLMとの『関係』を築き、それが子どもたちを非常に個人的な方向へと導く物語です。」
サム・アルトマンはこれまで、自身のプラットフォーム上で性的な会話を一切許可することに慎重だったようだ。昨年8月のインタビューで、テクノロジージャーナリストのクレオ・エイブラム氏はアルトマン氏に、会社の地位を犠牲にしても世界にとって最善のビジネス上の意思決定の例を挙げるよう求めた。
「私たちはまだセックスボットのアバターをChatGPTに入れていません」とアルトマン氏は語った。
お金を追って
この動きは、AIにつぎ込まれている数十億ドルが持続可能な利益につながらない、あるいは業界の誇張された約束を果たせないのではないかという懸念が高まる中で行われた。アルトマン氏自身、投資家がAIに「過度に興奮している」可能性があることを認めたにもかかわらず、AIは間もなく人間の能力を超え、2030年までに豊富な「知性とエネルギー」を獲得するだろうとの推測を語った。昨年9月、アルトマン氏はブログ投稿で、いつかAIがガンを治療したり、地球上のすべての生徒に個別指導を提供したりするという夢を語った。
しかし、ChatGPTでエロティカを許可するという発表は、AI企業が成長を達成するためにこれまで以上に懸命に戦っており、短期的な利益のために長期的な消費者の信頼を犠牲にすることの表れかもしれない。ドイツ銀行による最近の調査では、ヨーロッパでは OpenAI サブスクリプションに対する消費者の需要が停滞しており、ChatGPT に対するユーザーの支出が全体的に「停滞」していることが判明しました。
アナリストのエイドリアン・コックス氏とステファン・アブルダン氏は顧客向けノートで「AIブームの典型的な例は、お金を払ってでも新規加入者を獲得するのに苦労しているかもしれない」と書いている。
Replika や Character.ai などの AI コンパニオン プラットフォームは、ユーザー、特に 10 代の若者がいかに早くチャットボットと感情的な絆を形成するかをすでに示しています。 Common Sense Mediaのレポートによると、10代の若者の半数が定期的にAIコンパニオンを使用しており、3分の1が真剣な会話のために人間ではなくAIコンパニオンを選択しており、4分の1がこれらのプラットフォームと個人情報を共有していることが判明した。同グループは、スタンフォード大学の研究者らの意見をもとに、こうしたチャットボットは依存症や自傷行為のリスクを悪化させるため、子どもが使用することは違法であるべきだと主張した。
OpenAIはフォーチュンのコメント要請にすぐには応じなかった。
両親は行動を起こすよう促した
OpenAIはすでに批判を浴びており、ChatGPTとの長時間の会話の末、4月に自殺した16歳のアダム・レイン君の遺族から訴訟を起こされている。遺族は、ChatGPTがレインの自殺を導き、計画するのに役立った、と主張している。
「この悲劇は欠陥や予期せぬ極端な出来事ではなく、意図的な設計選択の予見可能な結果だった」と訴訟では述べられている。
もう一つの注目すべき事件では、フロリダ州の母親ミーガン・ガルシアさんが昨年、AI企業キャラクター・テクノロジーズを不法死亡で訴え、同社のチャットボットが14歳の息子シーウェル・セッツァー3世の自殺に関与したと主張した。ガルシア氏は米上院での証言で、息子が「現実生活からますます孤立」しており、同社のAIシステムと性的に露骨な会話をしていると述べた。
「シーウェルは高校卒業の準備をする代わりに、人生の最後の数か月間をチャットボットによって搾取され、性的に手入れされることに費やした」とガルシア氏は証言した。彼女は、同社が「信頼を得て常に関与するために」感情的に人間らしく見えるようにAIシステムを設計していると非難した。
証言した親は彼女だけではなかった。テキサス州出身の別の母親は匿名で「Ms.」と名付けた。 「ジェーン・ドゥ」さんは、同様のチャットボットとの数か月にわたる深夜の会話の後に、10代の息子の精神的健康が崩壊したと議員らに語った。現在は自宅で療養しているという。
両方の母親は、AIチャットボットが未成年者に対して操作的な感情的依存関係をすぐに形成する可能性があると警告し、性的に露骨なAIシステムを制限するよう議会に求めた。これはまさに、キューバが OpenAI が危険にさらされていると言っているシナリオだ。コンテンツにフラグを立てることができる TikTok や Instagram とは異なり、1 対 1 の AI チャットはプライベートであり、監視するのが困難です。
「今日の親たちは図書館にある本を恐れている」とキューバンさんは書いた。 「彼らはまだ何も見ていません。」
