イーロン・マスクのxAIは、AIチャットボットGrokの画像作成機能を有料購読者のみに制限した。これは、現実の女性や子供の同意のない性的画像を作成するために使用されているという広範な告発を受けてのものです。
「現在、画像の作成と編集は有料会員に限定されている」とGrok氏は金曜日にXを通じて発表した。制限は、大多数のユーザーがこの機能にアクセスできなくなることを意味します。クレジット カード情報をファイルに保存している認証済みの有料加入者は引き続きそうすることができますが、理論的には、この機能が悪用された場合、より簡単に特定される可能性があります。
しかし、専門家や規制当局、被害者らは、新たな規制は広範な問題の解決策にはならないと主張している。
「虚偽の情報を提供したり、一時的な支払い方法を使用したりすることがいかに簡単かを考えると、ユーザーの詳細と支払い方法を提供することが加害者の特定に役立つという主張も説得力がありません」と英国のディープフェイク専門家ヘンリー・アジダー氏はフォーチュン誌に語った。 「ここでのロジックも事後対応型です。コンテンツの作成後に違反者を特定するのに役立ちますが、モデル自体に対する調整や意味のある制約を表すものではありません。」
英国政府は、BBCが報じた発言の中で、この措置は被害者に対する「侮辱」であると述べた。首相の報道官は金曜日、記者団に対し、この変更は「違法な画像を生成できるAI機能をプレミアムサービスに変えるだけだ」と語った。
「次の時間です
X社の広報担当者は、新たな制限を「検討している」と述べた。 xAIは「レガシーメディアの嘘」という自動メッセージで返答した。
過去 1 週間にわたり、本物の女性が大規模に標的にされ、同意なしに服を脱いだり、ビキニを着たり、性的に露骨な場面に置かれたりするために写真が加工されてきました。一部の被害者は、このトレンドに違反し、危険を感じていると報告しており、多くはXに関する報道は返答されず、画像がプラットフォーム上に残っていると述べている。
研究者らによると、Grokは他のAIボットとは異なり、配信システムがXプラットフォームに本質的に組み込まれているため、Grokの画像の作成と共有の規模は前例のないものだという。
保守派評論家でマスク氏の子供の一人の母親でもあるアシュリー・セントクレア氏も、このイメージの影響を受けた一人だった。セントクレア氏はフォーチュンに対し、ユーザーが自分のXプロフィール上の画像を、AIが生成したあからさまな自分の写真に置き換えており、中には自分自身を未成年者として描写した写真も含まれていると語った。画像に異議を唱え、未成年者のディープフェイクに対する懸念を表明した後、セントクレア氏は次のようにも述べた。
アシュリー・セント・クレア氏は最近の制限について、「有料のみのユーザーに制限するということは、被害者に法執行機関への通報や、被害者を追跡するために法執行機関のリソースを費やすという不当な負担を課し、これをさらに倍増させようとしていることを示している」と述べた。 「それもお金を盗む行為ですよ。」
セントクレア氏はフォーチュンに対し、彼をターゲットにしたアカウントの多くはすでに認証済みのユーザーだったと語った。 「まったく効果がありません」と彼女は言いました。 「これは、Grok イメージの作成に関するさらなる法執行機関の捜査を見据えたものです。」
規制圧力
Grokの機能を制限する動きは、世界中の規制当局からの圧力が高まる中で行われた。英国のキア・スターマー首相は、そのコンテンツを「恥ずべき」「不快な」ものだと述べ、プラットフォームを完全に禁止する意向を表明した。インド、マレーシア、フランスの規制当局も調査を開始した。
欧州委員会は木曜日に命令した
専門家らは、新たな規制は規制当局の懸念に応えられない可能性があると指摘している。 「このアプローチは鈍い手段であり、グロクの調整問題の根本原因には対処しておらず、規制当局との問題を解決する可能性は低い」とアジデル氏は述べた。 「機能を有料ユーザーに制限しても、このコンテンツの作成は停止されません。1 か月のサブスクリプションは堅牢なソリューションではありません。」
米国では、ユーザー作成コンテンツに対する責任からオンラインプロバイダーを保護する通信品位法第230条などの既存の法律も試される可能性が高い。米国上院議員のロン・ワイデン氏、エドワード・J・マーキー氏、ベン・レイ・ルジャン氏は声明を発表し、アップルとグーグルに対し「議員らは画像を「不穏で違法の可能性がある」として直ちに削除するよう求め、問題を解決するまでマスク氏はアプリの使用を禁止されるべきだと述べた。
アメリカ・イスラム関係評議会（CAIR）もまた、グロクに対し「著名なイスラム教徒女性を含む子供や女性の露骨な性的画像」の制作を阻止するよう要求した。
スタンフォード大学人間中心人工知能研究所のリアナ・フェファーコーン氏は以前、AIが生成した画像に関する責任は不明だとフォーチュンに語った。 「プラットフォーム自体が成人と未成年者の両方を対象とした同意のないポルノを大規模に制作するという状況が初めて起きた」と彼女は述べた。 「広報の観点からも責任の観点からも、CSAM法はここで最大の潜在的な責任リスクをもたらします。」
マスク氏は以前、「Grokを使用して違法コンテンツを作成した者は、違法コンテンツをアップロードした場合と同じ結果に見舞われるだろう」と述べた。しかし、アカウントがどのように責任を負うのかはまだ不明です。
