27歳の保守系インフルエンサー、アシュリー・セント・クレアは、長年MAGA界の寵児だ。 20代前半に彼女は大学を中退し、反トランスジェンダー運動を含む右翼運動の率直な支持者になった。 5年後、彼女はイーロン・マスクとの間に子供をもうけ、現在ニューヨークの連邦裁判所で争っている。
セントクレアは今月初め、xAIのチャットボットGrokが作成し、マスク氏が所有するソーシャルメディアプラットフォームXで共有された大量のディープフェイクを受けて、マスク氏のAI企業に対して訴訟を起こした。彼女は1月初旬にフォーチュンに対し、Xユーザーが自分のXプロフィール上の写真をAIが生成した性的画像に置き換えており、中には自分自身を未成年者として描いたものも含まれていると語った。
「赤ちゃんのリュックサックを背景に、デンタルフロスだけを置いて何も着ていない赤ちゃんの写真もあったし、赤ちゃんが上着を何も着ていないように見える写真もありました」と彼女は言う。 「私はとても嫌悪感を抱き、屈辱を感じました。」
St Clair との間の紛争 多くのユーザーは、X プラットフォームでは Grok にタグを付け、ユーザーのプロフィール内の画像の編集を依頼できることに気づきました。デジタルヘイト対策センターの調査によると、グロクさんは2025年12月29日から2026年1月8日までの11日間に約300万枚の性的画像を作成した。ユダヤ人であるセントクレアさんは訴訟の中で、AIチャットボットが「かぎ十字で覆われた紐ビキニ」を着た画像を作成したと主張した。セントクレアさんがこの問題について発言すればするほど、画像の標的になる可能性が高まると彼女は語った。
法廷闘争はすぐに不快なものになった。この訴訟の通知を受けた後、マスク氏の会社はほぼ即座に保守系インフルエンサーを反訴し、X社とのいかなる紛争もテキサス州で提起しなければならないと定めたプラットフォームの利用規約に違反したとしてマスク氏を反訴した。マスク下院議員はフォーチュン氏の具体的な質問には答えなかった。
マスク氏は一般的にテキサス州で法廷闘争を戦うことを望んでいる。 2024年には、
マスク氏と同社はこの規則の理由については明らかにしていない。しかし、北部地方裁判所の現在の裁判官11人のうち10人は共和党大統領によって任命されており、ほとんどの連邦裁判所とは異なり、同地方裁判所はランダムな割り当てではなく、訴訟が提起された部門に基づいて事件を割り当てている。倫理専門家らはまた、マスク氏のプラットフォームXに関連するいくつかの訴訟を監督してきたリード・オコナー判事がテスラ株を所有していることから、利益相反の可能性についての懸念を提起した。オコナー氏は自身の保有株が精査された後、少なくとも一度は辞任しているが、辞任を拒否することもあった。
セントクレア氏は反訴について「まったくばかげている」と述べ、Xによるプラットフォームの使用をめぐってではなく、同意なしに作成した画像をめぐって訴訟を起こしているため、Xの利用規約は適用されないと主張した。
セントクレアは現在、会場のテキサスへの変更を阻止し、生成AIプラットフォームに対するより大きな説明責任を確立するために反訴と戦っていると述べた。
「これらのプラットフォームに責任を負わせることで、完全に予見可能な危害を考慮せずにリリースされた非常に新しい生成 AI ツールにも責任を負わせることになります」と彼女は述べた。 「自分自身だけでなく、頭の中に見た他人の子供や他の女性のイメージを決して思い出すことはありません。」
xAIは今月初めにチャットボットのアップデートを発表し、GrokのXアカウントでは衣服を露出した実在の人物の画像を編集することは今後許可されないと主張した。 St Clair氏によると、ユーザーはスタンドアロンのGrokアプリを使用するなどの回避策を見つけており、画像は依然としてXプラットフォームに配布されているという。
「それは今でも起こっています。人々は今でもスタンドアロンのGrokアプリやWebサイトでこれらの画像を作成できます」と彼女は言いました。 「私が燃えているように見せられることもあります。しかし、私の挑発的な側面が出てきます。それは止まらないのです。」
ヨーロッパの非営利団体である AI Forensics も、Grok が X の制限にもかかわらず依然として個人の性的画像を生成していたことを発見しました。研究者らは、ユーザーが禁止を回避するために、X 以外の Web サイトから直接 Grok にアクセスしているか、AI を活用したビデオおよび画像作成ツールである Grok Imagine を使用していることを発見しました。
セントクレアはxAIやマスクとの戦いで反発に直面している。 Xに関するコメントは定期的に、彼女がマスクの金を狙っている執念深い元ガールフレンドであると非難している。彼女は、X とそれに伴う広告収益分配計画によって「認証済み」ステータスを剥奪されました。そして、現在は削除されているXの投稿の中で、セントクレアさんがトランスジェンダーの権利に関するこれまでの立場に対する遺憾の意を表明するコメントをしたことを受けて、マスクさんは子どもたちの完全な親権を求めて訴訟を起こすとさえ脅迫した。
Grok は世界的な規制調査を引き起こしました。
セント・クレアをターゲットにしたXの「ヌード」傾向は、子供の性的な画像の蔓延もあり、世界的な懸念を引き起こした。デジタルヘイト対策センターの調査によると、11世紀にグロクが制作した300万枚の性的画像のうち、2万3000枚には子供が描かれていた。これは、未成年者の性的画像が 41 秒ごとに 1 枚作成されるという平均的な割合を反映しています。これらには、グロクが服を脱がせた女子生徒がアップロードした自撮り写真や、グロクが作成したマイクロビキニを着た6人の少女の画像が含まれていた。
「これは（イーロン・マスクの）自らが招いた惨事だと結論づけないのは非常に難しい」とデジタルヘイト対策センターの創設者兼最高経営責任者（CEO）のイムラン・アーメッド氏はフォーチュン誌に語った。マスク氏は個人的な投稿の中で、自分がどのように虐待されているかを懸念する人々を嘲笑し、それを真剣に受け止めて2週間近く状況を改善しようとするのではなく、むしろ軽視しているようだと個人的な投稿で明確に述べた。
Grok氏はまた、カリフォルニア州での性的ディープフェイクを巡る集団訴訟と欧州委員会による公式調査にも直面している。 X社がEUのデジタルサービス法に違反したことが判明した場合、同社は全世界の年間収益の最大6％の罰金を科される可能性がある。
セントクレア氏は「EUの行動は素晴らしい。これは本当に正しい方向への一歩だと思う。より多くの人々や指導者がこれに倣うことを願っている」と述べた。トランプ政権は欧州における「検閲」とみなされるものに対して多くの措置を講じており、特にデジタルサービス法に関して問題を抱えている。政権のより劇的な動きの一つは、テクノロジー企業に米国の見解を検閲するよう圧力をかけた容疑で、アーメドさんを含む欧州人５人の米国入国を１２月に禁止したことだった。
月曜日、EUの規制当局は、Grokが作成した「操作された性的に露骨な画像」が域内のユーザーに表示されるかどうかを評価すると述べ、Xが有意義な調整の実施を拒否した場合は「暫定措置を取る可能性がある」と警告した。オーストラリア、フランス、ドイツでも同様の捜査が進行中で、インドネシアとマレーシアではXが一時的に禁止された。
「AIプラットフォームにはソーシャルメディア企業ほどの訴訟からの保護がありません。これは過失および迅速な設計法がAIプラットフォームに適用できるかどうかの重要なテストです」とアーメド氏は述べた。 「もし責任が判明すれば、AIチャットボット業界は永久に変わってしまうだろう。」
この記事はもともと Fortune.com に掲載されました。
