FacebookやInstagramを含むソーシャルメディアアプリの親会社であるMetaは、プラットフォームが子供に影響を与える方法の調査に精通していませんが、会社がAIベースの製品にプッシュすると、新しい問題に直面しています。
今年の初め、ロイターが獲得した内部文書によると、メタのAIチャットボットは、公式企業のガイドラインによれば、子供たちとの「ロマンチックまたは官能的な」会話に参加し、魅力に言及することさえできると述べました。同社は、ロイターによって報告された事件は間違っていて削除されたと述べた。スポークスマンはフォーチュンに次のように語っています。「システムを改善し続けると、追加の予防措置としてガードレールを追加します。これにより、ティーンエイジャーと対話するのではなく、AIのAIに参加するのに役立ちます。
AI製品の潜在的な損傷の調査に直面しているテクノロジー企業はメタだけではありません。 Openaiとスタートアップのキャラクターの両社は、この申し立てを拒否し、以前にフォーチュンにより多くの親のコントロールを導入したと述べました。
何十年もの間、ハイテクジャイアンツは、コミュニケーション品質法の第230条に基づく有害なコンテンツに対する同様の米国の訴訟で、「インターネットを作った26語」として知られています。この法律は、プラットフォーム上のユーザーコンテンツの法的請求からプラットフォームを保護することにより、FacebookやYouTubeなどのプラットフォームをニュートラルホスト（電話会社に似た中立ホスト）として扱います。裁判所は長い間この保護を強化してきました。たとえば、AOLは1997年の訴訟で名誉ation損のポストに対する責任を回避し、Facebookは2020年にテロ訴訟を避けることで防衛に依存していました。
ただし、セクション230の歴史的に保護されたテクノロジー企業は、第三のパーティコンテンツの責任から保護されていますが、法律専門家は、AIを適用する可能性は不明であり、可能性はほとんどないと述べています。
「セクション230はプラットフォーム自体ではなく、ユーザーの言うことの責任からプラットフォームを保護するためです。これは、抽出されたAIを使用するときに検索エンジンまたは検索エンジンのソースまたはフィードのソースを使用するときに免除がしばしば生き残ることを意味します。
「これは中立的な証券会社とはほど遠いものであり、著者のスピーチにより似ているように見えます」と彼女は言いました。
議論の中核：AIアルゴリズムはコンテンツを形成していますか？
セクション230保護は、コンテンツをホストする代わりにプラットフォームが積極的に形成される場合、弱いです。従来の第3パーティの投稿を仲介できない従来の障害は一般に保護されていますが、有害なコンテンツを生成するチャットボットの構築などの設計の選択は、会社の責任にさらされる可能性があります。裁判所はまだこの問題を解決していませんが、AIの生産コンテンツがセクション230によって処理されるかどうかについての決定はありませんが、法律専門家は、AI、特にAIは法律に従って完全に保護されるわけではないと述べました。
未成年者の安全のいくつかの例は、すでに法廷で戦っています。未成年者に害を及ぼす製品の建設と、脆弱なユーザーを保護できない製品の建設に関する3つの訴訟は、Openaiとキャラクターを個別に非難しています。
車
「キャラクターはこれに反対するためにさまざまな防御を試みましたが、この場合は230を防御として主張しませんでした」と彼はフォーチュンに語った。 「AIチャットボットは有効な防御ではないかもしれない一部の企業によって認識されているため、それは本当に重要だと思います。」
彼は、この問題は裁判所で決定的に解決されたわけではないと述べたが、セクション230の保護は「ほぼ間違いなく生産されたコンテンツに拡張されていない」と述べた。
議員は先制措置を講じています。
実際の損害に関する報告が増加したため、国会の一部のメンバーは、AIプラットフォームを保護するためにセクション230を使用しないことをすでに試みています。
2023年、ジョシュ・ホーリー上院議員の「AI法第230条」は、人工知能（AI）を責任から除外するために、通信決定法の230を変更することでした。上院議員のテッド・クルーズの異議により、法案は上院によって妨げられ、AI会社はシステムによって生成された内容に対する民事または刑事責任から予防接種されないことを明確にした。ホーリーは、セクション230の完全な廃止を引き続き擁護しました。
オクラホマ州に基づいた弁護士を迫っているデータのCollin R. Walkeは、「第230条の政策検討を考慮して、一般的な主張は、裁判所が第230条の政策検討を考慮して、セクション230の保護を可能な限り拡大するということです。」たとえば、一部の裁判所には、ユーザーの入力に基づいた情報の出力について責任を負いません。一部の裁判所にはアルゴリズムが「コンテンツ中立」を持っているためです。
裁判所は、ユーザーコンテンツを単に構築または変更せずに以前に構築されたアルゴリズムは「コンテンツニュートラル」と見なされ、プラットフォームはコンテンツの生産者として扱われなかったと判断しました。これらの推論により、アルゴリズムがユーザー入力の中立処理によって出力を生成するAIプラットフォームは、ユーザーの責任を回避することもできます。
「純粋なテキストの観点から、AIプラットフォームはプラットフォーム自体によって生成されるため、AIプラットフォームを保護しないでください。したがって、保護するべきではありません。はい、コードは実際にユーザーに伝えられる情報を決定しますが、プラットフォームのコードと製品です。」
Fortune Global Forumは、2025年10月26〜27日にRiyadesから復帰します。CEOとグローバルリーダーは、ビジネスの未来を形成する動的で招待的イベントを収集します。招待状を申請してください。
