金曜日、米国防総省のニーズにしっかりと対抗するために、ライバルであるアントロピックを公に支持してから数時間で、OpenAIのCEOであるSam Altmanは、自社が国防省と独自の契約を締結したと発表しました。これらの動きは、米国政府がアントロピックを「サプライチェーンリスク」と指定する非常に珍しい措置を講じた直後に行われました。
OpenAIの決定は、多くのAI研究者や技術政策の専門家から批判を引き起こしました。 OpenAIは、Anthropicが契約で望んだが、国防省が拒否した米国市民の監視と致命的な自律兵器の合意で限界を達成したと明らかにしたにもかかわらず。
主な議論の一つは、国内の大規模な監視に関するものでした。専門家は、高度なAIが個人の位置、財政、検索履歴など分散しており、個別に無害なデータを収集し、これを自動的に規模に合わせて個人の生活の包括的な図に組み立てることができると長い間警告してきました。 AnthropicのCEOであるDario Amodeiは、この種のAIベースの大規模な監視は、人々の「基本的な自由」に深刻で新しいリスクをもたらし、「法律はまだ急速に成長しているAI機能に追いついていない」と述べた。
しかし、OpenAIは、ブログ記事を通じて、自社の技術が大量の国内監視や直接的な自律兵器システムには使用されないと国防省と合意したと述べたが、アントロピックがこれを拒否した2つの厳しい制限のうち、一部の法律および政策専門家は、法の潜在的なギャップについて疑問を提起した。
議論の一部は、大量監視と区別できないと感じても、現行の米国法令に基づく合法的なアメリカ人データの大規模分析の曖昧な合法性にかかっています。
民主主義および技術センターの政策担当副社長であるサミール・ジャイン氏は、「現在、米国の法律によると、政府当局がデータブローカーや他の第三者から商業的に入手可能な情報を購入することは合法的です」と述べた。 「大量のデータを購入し、AIが分析できるようにすることで、事実上その過程を通じてアメリカ人の大規模な監視に参加することができます。
OpenAIは、自社の「修正指示」が国防部との契約による言語だけでなく、構築する技術システムを通じて施行されると明らかにした。同社が公開したブログによると、この契約は、国防省が「該当する法律、運用要件、十分に確立された安全性および監督プロトコルに従ってすべての合法的な目的に」AIを使用することを許可するとともに、アメリカ人の個人情報の無制限の監視を明示的に禁止します。
問題は、「合法的」と見なされるものが変わることがあるということです。 OpenAIの契約は既存の法律と国防総省の方針を指していますが、これらの方針は将来修正される可能性があります。 Jainは、「彼らが発表した内容のどれも、これらの方針が将来変更されるのを防ぐことはできません」と述べました。
一部の批評家は、既存の情報当局がすでにOpenAIによって禁止されている監視形式を許可していると主張しています。 Techdirtブログの創設者であるMike Masnickは、ソーシャルメディアにこの協定が「絶対に国内監視を許可する」と書いており、情報機関が偶然に取得したアメリカ人のデータを含む可能性がある米国外の通信を情報機関が収集することを可能にする長い権限の行政命令12333を指摘しました。
いくつかの議論は、様々な国家安全保障活動を規制する米国の法律の特定の部分を中心に行われています。米軍の行動は一般的に米国連邦法第10条の適用を受けます。これには、防衛情報局（Defense Intelligence Agency）と米国サイバー司令部が軍事作戦を支援するために行うことが含まれます。しかし、DIAの業務の一部は、一般的に、秘密の情報収集と秘密の行動を規制する米国法の他の部分である米国法第50条に従います。中央情報局（CIA）と国家安全保障局（National Security Agency）の業務も通常Title 50に属します。最も敏感なタイトル50の活動のいくつか、特に秘密の活動は、大部分が舞台裏で行われ、大統領の調査が必要です。
週末に掲示されたブログ記事で、OpenAIは国防総省との契約の詳細な説明を共有し、有名なOpenAI研究者Noam Brownのソーシャルメディア投稿によると、同社の国家安全保障パートナーシップ責任者であるKatrina Mulliganは、OpenAIの契約が批評家の主な懸念の原因の1つである情報コミュニティのTitle 50作業を扱った。 OpenAIの代表はFortuneのコメント要求に即座に答えなかった。
しかし、法学者たちは、Title 10とTitle 50の活動の区別がますます曖昧になっていると指摘した。実際には、2つは非常に似ているように見えるかもしれませんが、どちらも外国の行為者のデータ分析またはパターン追跡を含むかもしれません。しかし、これらの冗長性はOpenAIのような企業に灰色の領域を作成します。 Title 50 の操作を禁止する契約は、DIA などの Title 10 機関が AI を使用して商業的に入手可能または分類されていないデータセットを分析することを自動的に防止しません。
Jainは、「彼らが自分のシステムをTitle 50の活動に使用できないと言うなら、AIシステムを使用できる活動の範囲が減ることです」と述べた。 「しかし、それだけでは問題は解決しません。」
