Instagramの顔スキャン、チックトークの動画自撮り、YouTubeの指紋パスワード、FacebookのIDをアップロード。まだ現場ではありませんが、Big SocialがBig Tobaccoの瞬間を経てAIスロップミームを投稿するためにバイオメトリクスを収集することが標準になります.
デジタル環境は、ソーシャルメディア中毒訴訟と年齢確認のための巨大な規制争奪戦のために激しい激変を経験しています。ソーシャルメディアプラットフォームが子供に害を及ぼす「ドーパミン反応」と中毒性のあるデザイン選択の画期的な法的判断に直面して、根本的な技術的、倫理的危機が現れました。オーストラリアと同じ国では、16歳未満の人々にソーシャルメディアの禁止を施行しており、Metaは現在、彼らのプラットフォームで子供のための中毒性の環境を意図的に作成したと主張しています。
企業が子供の中毒を抑制するために実装した主なツールであるユーザーの年齢を確認するための競争では、これらのソーシャルメディアプラットフォームは一般的に「年齢確認トラップ」と呼ばれるパラドックスを明らかにしました。簡単に言えば、これらの会社はユーザーに年齢確認規則を施行することで、そのユーザーのデータプライバシー保護を損なっています。
ビッグソーシャルには大きなタバコの瞬間があります。
MetaやTikTokなどの企業は、プラットフォームやビジネスモデルをタバコやオピオイド市場と比較する連邦および州の裁判に直面しており、同社はプラットフォームがユーザー中毒を助長するように設計された方法を直接かつ意図的に操作したと主張しています。 MetaのCEOであるMark Zuckerbergは、最近、科学的な研究がソーシャルメディアと精神的健康への害との間の関連性を証明していないと証言しました。しかし、専門家は、ソーシャルメディア中毒がユーザーをオンラインに保つように設計されたまさにそのエンジニアリングアルゴリズムによって主導されていると言って異なって主張しています。
家族のソーシャルメディア会社であるAuraの臨床心理学者であり、AI科学者であるDebra Boeldt博士は、「これらの会社は、子供たちが彼らのプラットフォームにアクセスするのを防ぐ特定の基準に従わない」と述べた。特に、これらの企業は「子どもたちがそのプラットフォームを利用することで利益を得ることです。 AIを使用して子供のオンライン習慣を監視し、大人の個人情報を安全に保護する会社であるAuraで臨床研究をリードしているBoeldtは、子供の実行機能と衝動制御がまだ発達しているため、現在ソーシャルメディアデザインに特に脆弱であると述べました。
子供の場合、ソーシャルメディアプラットフォームは単なるアプリではなく、ソーシャルコネクションの主要なソースでもあります。彼女の研究によると、13歳以下の子供5人のうち1人は1日4時間以上のソーシャルメディアを使用し、これはストレス、不安、うつ病のレベルを高めます。 Boeldtは子供たちが上手なので、1つのプラットフォームで禁止されている場合、1つのプラットフォームから次のプラットフォームに移動する「ほくろをつかむ」ゲームだとBoeldtは言います。
BoeldtはFortuneとのインタビューで、「子供たちは非常に知識が豊富であるため、問題を解決することができます」と述べました。 「彼らはレーダーの下を飛ぶ方法を知っています」
ソーシャルメディア会社がプラットフォームから未成年のユーザーを削除したり、検閲されたコンテンツを検索するためにAIの助けを求めると、会社は特定の年齢未満のすべての人へのアクセス権を正確に削除できるかどうかを判断するのが困難になります（Boeldtは、「PDFファイル」または「生き残った」新しい語彙を生成するInstagramやTikTokなどのプラットフォームを参照した。
しかし、彼女は、全体ではなく少数のユーザーだけがソーシャルメディアサイトでブロックされる副作用がより深刻であると警告しました。ソーシャルメディアプラットフォームが未成年者のユーザー禁止にほとんど介入せず、一度に選択された少数のアクセスを排除する場合、禁止が普遍的でない限り、ソーシャルメディアで切断された子供は孤立し、友人はオンラインに接続し続ける「島の効果」が発生します。
規制は使用にほとんど追いついていません。
ソーシャルメディアの設計規則のためのリトマステストチームとして機能する現在の訴訟は忘れてください。現在、規制は子供たちがソーシャルメディアをどのように使用するかをほとんど追いつかず、ソーシャルメディア会社が使用するツールはユーザーの個人情報を安全に保つことができません。近年、サードパーティの検証ソフトウェアを使用するプラットフォームは、ユーザーデータがハッキングされ、公開されることを目撃しており、AIベースの検閲を発表および放棄しなければなりませんでした。
しかし、これは、ユーザーの個人情報の権利を侵害することなく、子供とユーザーに関する情報を適切に収集しなければならない逆説的な問題を解決しません。これらのプラットフォームのユーザーを調査し始めると、問題がさらに深まります。
AIベースの身元確認ソフトウェア会社であるSocureのCEOであるJohnny Ayers氏は、「人間は今ではインターネット上の少数です。 Ayersは、Fortuneとのインタビューで、ボットのおかげでディープフェイクの使用が前年比でほぼ8,000％増加し、市場にある多くの検証ソフトウェアが役に立たなくなったと述べました。代わりに、彼の会社が使用するデジタル検査の1つには、各携帯電話のジンバルを使用して身元を確認するときに、人が実際に携帯電話を持っていることを確認することが含まれます。
マネーロンダリングおよび顧客の把握方法に使用されるBillions Networkの会社のEvin McMullenは、バイオメトリックコレクションは、プラットフォームがあなたについて話すことを変更できないため、プラットフォームがあなたの身元を確認する1つの方法であると述べています。
McMullenは、Fortuneとのインタビューで、「ちょっと生意気に聞こえますが、親指を回転させることができないという考えは、パスワードを変更したり、セキュリティを簡単に管理できないことを意味します」と述べました。 「生体認証に基づいたIDは、実際に最も重要なデータの使いやすさとセキュリティを優先するものです」と彼女は言いますが、現在のパスワードマネージャモデルは「サポートできず、もはや安全ではありません」と付け加えました。
ただし、問題は児童およびプライバシーに関して発生し、COPPAに対するFTCの判決を考慮して再検討する必要があります。
AyersはFortuneとのインタビューで、「子供の生体認証情報を収集することはできません」と述べました。 「では、どの人が13歳であるかを確認せず、何も収集せずにどのように13歳であるかを確認できますか？」
ツールはもう役に立ちません。
これを行う1つの方法は、ステートメントの真実性とそれに応じてその人の身元を確認するために当事者を決定するゼロ知識証明（ZKP）を収集することです。金融業界の顧客が非侵襲的な身元確認手段を探しているMcMullenはZKPの主な支持者であり、ZKPが特に当事者間の信頼を構築するのに役立つと付け加えました。
ZKPは、自分を確認したい人が個人情報や秘密情報を公開することなく、確認当事者に信頼を構築する方法でステートメントに回答できるようにする方法です。たとえば、4+4=8 問題を考えてみましょう。これは検証したい人が知っている事実ですが、ZKP方法は信頼に依存します。尋ねるのが4 + 4 = 8であるのではなく、検証者は検証しようとしている人が真実を話していること（またはこの場合はそれが真実であることを知っている）を確認するために一連の質問をします。検証者が要求できる値は 4+4=7 です。 4+4の和は偶数などであり、一連の質問の後には、その人の主張の真実性を判断してこれを識別することができます。
これはアイデンティティを証明する一般的な方法ではありません。これまで、ソーシャルメディア会社は、ユーザーに政府発行の身分証明書のアップロードを依頼するなど、身元確認を使用することを含め、人々の年齢を確認するためにさまざまな技術を活用してきました。 AIを使用してユーザーの顔をスキャンします。個人の年齢を決定するためにユーザーの活動を追跡します。有害なオンライン習慣を親に知らせるために、「青少年アカウント」を導入したInstagramなどの親監督ツールを活用します。
問題の鍵は、本質的にユーザーのプライバシーを侵害することなくユーザーの年齢を確認するためのツールがないことです。正確なモデルを得るためには、バイオメトリクスや政府IDなどの非常に侵害的な措置が必要です。 IDは、1,500万人のアメリカ人が身分証明書のないIDギャップのためにソーシャルメディア会社でさえ要求することを躊躇します。これは、黒人とヒスパニック系の大人、移民、障害者に不均衡に影響を与える問題です。
AIを使用して人々の顔をスキャンすることは、問題を解決するのにほとんど役に立ちません。専門家たちは、これらのAIモデルが少数の集団に対してあまり正確ではなく、しばしば成人を未成年者として誤って分類する一方、AI自体は実際の人間の合成音声やディープフェイクを識別できないことを発見しました。また、熟練した子供たちは、州でPornhubを禁止した後、VPN使用量が1,150％増加したフロリダなど、VPNを使用して地理的ベースの禁止を頻繁にバイパスします。そして、何よりも最近、Discordの第三者ベンダー5CAが侵害され、70,000を超える政府IDがオンラインにさらされているように、アイデンティティ文書の保存に関連する大きなセキュリティリスクがあります。
最終的に、「年齢確認罠」は、規制当局が年齢の執行を義務として扱い、プライバシーをオプションの状態として描写するときに発生します。専門家は、ZKPやデバイスベースの検証などの方法が標準になるまで、デジタル時代は個人のプライバシー権を侵害しないように努力しながら、個人の身元を証明しようとするウサギの洞窟に続くと警告します。
