200以上の子供たちの支持団体と専門家は、YouTubeがAIで作成された「スロップ」を子供用プラットフォームで完全に禁止することを要求しています。これは、品質が低く、アルゴリズムで制作された動画が、親と規制機関が外面している間に若い脳を再配置し、数百万ドルを掻き集めていると主張します。
児童擁護団体であるFairplayが主催し、YouTube CEO Neal MohanとGoogle CEO Sundar Pichaiに送った公開書簡には135以上の組織が署名しました。署名者には、米国教師連盟（American Federation of Teachers）やアメリカ相談協会（American Counseling Association）、そして不安な世代（The Anxious Generation）の著者であるJonathan Haidtなどの著名な研究者も含まれました。手紙の著者は、YouTubeがAIスロップが子供たちにアクセスするのを妨げることに失敗しただけでなく、AIから積極的に利益を得ていると述べた。
FairplayのYoung Children Thrive OfflineプログラムディレクターであるRachel Franz氏は、Fortuneとのインタビューで、「AIが作成したビデオは、実際にYouTubeがプラットフォーム上の子供たちとインターフェースを取ったときにすでに遭遇している多くの問題を拡大したものにすぎません」と述べました。 「このようなAIスロップを解決することが重要ですが、YouTubeプラットフォームが必ずしもAIに関連しないようにユーザーをより多くの時間を費やすように設計する方法についてYouTubeで作業することも重要です。」
代替「AIスロップ」とは何ですか？
この用語は、YouTubeのようなプラットフォームにあふれた量産、AI生成ビデオの波を意味します。コンテンツは、制作コストが安く、しばしば奇妙で無意味であり、若い視聴者（または実際にはすべての視聴者）の関心を引き付けるように設計されています。そして読者の皆さん、ビデオは奇妙です。奇妙な谷の美学で繰り返し作業を行う漫画動物。歪んだ情報を含む偽の「教育」ビデオ。または純粋な目的のない催眠ループ。 New York Timesは2月の調査でこの現象を記録し、YouTubeが子供のための安全で厳選されたスペースでマーケティングしたプラットフォームであるYouTube Kids全体に挿入されたこれらのビデオを発見しました。
「AIで生成されたコンテンツの多くは、子供たち、特に衝動調節能力が今発達し始めたばかりの小さな子供たちの注意を引くように設計されています。 「これはそれ自体では子育ての問題ではありません。プラットフォームは、若いユーザーが避けられない方法でAIコンテンツを継続的に推奨しています。」
財政的インセンティブは膨大です。 Fairplayは、子供向けの最高のAIスロップチャンネルが年間425万ドル以上の収益を上げ、一部のクリエイターは「無謀で魅力的なAIコンテンツ」で収益を公に宣伝していることを発見しました。手紙は、プラットフォームがこれらのビデオクリエイターに対する金銭的インセンティブを取り除くまで、いかなる政策も十分ではないと主張しました。
「8歳未満の子供のためのYouTube動画のうち、実際に高品質な動画は約5％にすぎません。そのうち5％だけが実際に高品質であるかどうかについて議論があります」とFranzは言います。ただし、YouTubeはその数値が標準ポリシーに違反していると判断しています。
YouTubeのスポークスマンBoot Bullwinkleは声明を通じて「私たちはアプリのAI生成コンテンツを少数の高品質チャンネルに制限するなど、YouTubeのキッズコンテンツに対して高い基準を持っている」と明らかにした。 「また、両親にチャンネルをブロックするオプションを提供します。YouTube全体でAIコンテンツの透明性を優先し、独自のAIツールでコンテンツにラベルを付け、クリエイターに現実的なAIコンテンツを公開するように求めます。
解決策
連合は、児童発達研究を通じて、これがニッチ市場の問題ではないと主張します。成人でさえ、AI生成コンテンツを正しく識別するのが難しい場合があります。より問題になって繰り返し露出すると、人々は人工知能のイメージが偽であると言われても実際のように認識する可能性が高くなります。脳がまだ現実の基本図式を構築している小さな子供たちの場合、時間が経つにつれて被害がさらに大きくなります。
Fairplayのニーズは構造的で装飾的なものではありません。連合では、YouTubeはプラットフォーム全体にわたってすべてのAI生成コンテンツに明確にラベルを付けることを要求しています。 YouTube KidsでAI生成コンテンツを完全に禁止します。主要なYouTubeプラットフォームでAIで作成された「子供向け」コンテンツを禁止します。 Fairplayは、YouTubeがアルゴリズムを通じて18歳未満のユーザーにAIコンテンツを推薦することを禁止したいと考えています。デフォルトでは、オフになっているAIコンテンツを無効にする親トグルを導入します。子供向けのAI作成コンテンツへのすべての投資を中止します。
最後のニーズは、GoogleのAI Futures FundがサポートするAIベースの子供向けエンターテイメントスタジオであるAnimajへのYouTubeの投資を直接目指しています。 「YouTubeは本質的にAnimajの購入を通じて赤ちゃんに害を及ぼすことに投資しています」とFranzは言います。
BullwinkleがFortuneに送った声明で、スポークスマンはYouTubeがYouTube Kids専用のAIラベルを開発していることを確認しましたが、スケジュールは提供していません. YouTubeのCEO、ニール・モハンはすでに年次書簡で「AIスロップ管理」を最優先課題として挙げています。 「低品質のAIコンテンツの広がりを減らすために、スパムとクリックベイトの戦いに非常に成功した確立されたシステムを積極的に構築し、低品質の繰り返しコンテンツの拡散を減らすことに取り組んでいます」と手紙を読んでください。
Bullwinkleはまた、Timesの記事で言及されている15のチャンネルがYouTube Kidsにはなく、プラットフォームが子供の安全ポリシーに違反したビデオを削除したと述べました。しかし、フランツにとってはそれだけでは不十分です。
「潜在的に子供に害を及ぼす可能性があるいくつかのチャンネルを例に指摘し、これをYouTubeがプラットフォームの開始を決定する基礎とすることは、個々の研究者の役割になるべきではありません。彼女は、2017年にYouTubeとYouTube Kidsの何千ものビデオが、冬の王国のElsaやPeppa Pigなどのおなじみの子供たちのキャラクターを使用して露骨な暴力、性的なトピック、薬物の使用など、非常に衝撃的なコンテンツを隠し、すべてフィルタを通過して幼い子供たちに近づくために「教育」や「面白い」タグを付けました。
「それゆえ、YouTubeはこれらのビデオを大規模に監視、追跡、削除する能力を持っていることを知っています。 「しかし、全体的な問題が解決されるわけではありません。」
