AI会社のアントロピックは、米軍がAIモデルをどのように使用できるかについて、当社が適用した制限事項に対する紛争を解決するための米国防総省の「最良かつ最終的な」提案を受け入れることができないと述べた。米国防総省の要求を遵守したり、アントロピックが米軍と取引している会社と取引することを禁止することができる措置に直面しなければならない金曜日の締め切りまで数時間しか残っていなかったため、紛争はますます醜くなりました。
国防総省の管理者は、アントロピックCEOダリオ・アモデイの性格について公に疑問を提起した。一方、競合AI研究所のスタッフは、アントロピックの立場を支持する公開書簡に署名しました。 Axiosの報告によると、OpenAIのCEOであるSam Altmanは、木曜日の従業員には、OpenAIがAnthropicが現在敏感ではないユースケースのために軍隊で使用できるChatGPTの使用をより機密なドメインに拡張するために交渉しながら、自律武器と大量監視に同じ制限を適用すると述べた。
人類と国防総省の戦いは、AI企業の技術労働者の間で彼らが構築しているAIシステムが軍隊でどのように使用されているかについての業界全体の反乱によって拡大する危険があります。ニューヨークタイムズによると、去る木曜日、100人以上のグーグルスタッフが会社の上級科学者であるジェフ・ディーンに手紙を送り、米軍がグーグルのジェミニAIモデルを使用する方法についても同様の制限を要請した。
木曜日、Amodeiは、自社のAI技術を自律武器や大規模監視に使用することが制限されるべきだと会社が信じる理由を説明する長文の声明を発表しました。これは、アントロピックが現在の契約条件とクロードモデルに直接構築した保護装置の両方で軍のモデル使用を制限する2つの分野です。国防省はこれらの制限を排除したいと考えており、アントロピックは米軍がそのモデルを「すべての合法的な目的で」使用できることに同意したいと考えています。
Amodeiは、声明でフロンティアAIシステムは「完全自律武器を駆動するほど信頼できず、」適切な監督なしには「私たちの高度に訓練された専門軍隊が毎日見せる批判的判断を行使することはできない」と書いた。彼は、監視における強力なAIが、現在地記録、検索記録、社会的関連性など、個別に無害な公開データを統合し、米国市民の生活を大規模に包括的に描写できると主張しました。
アメリカの戦争部長官であるエミル・マイケルは、エモデイを「嘘つき」と呼び、CEOがソーシャルメディアプラットフォームXの投稿で「米軍を個人的に制御する」ことを非難しました。また、別の記事では、MichaelはAnthropicのClaude Constitution（会社がAIに構築した価値と原則を説明する内部文書）を「アメリカ人に企業法を強要する」企業の陰謀として規定しました。
米国防総省は、金曜日の午後5時1分までにアントロピックが反対する契約制限を取り除かなければ、米軍との2億ドル契約が取り消されるか、より極端な措置で「供給網リスク」に分類され、軍隊と取引するすべての会社がアントロピックの技術を使用することを効果的に禁止することを要求しました。
この種の措置は通常、中国のHuaweiやロシアのサイバーセキュリティ会社であるKasperskyなどの外国の敵にのみ適用されます。
ケンブリッジ存在リスク研究センターの専務取締役であるSeán Ó hÉigeartaighは、Fortuneとのインタビューで、「国内企業がこの種の原則を遵守する意思がないため、これを使用することは非常に拡大され、前例のないことです」と述べました。
戦争部はまた、政府が国家安全保障に不可欠であると判断するため、アントロピックが無制限のバージョンのクルードを引き渡すことを強制する方法を使用して、冷戦時代の国防生産法を発動すると脅した。米国防総省がこの道を進むと、彼らは緊急時に契約紛争を解決するために緊急事態にのみ使用することを意図した権限を使用します。これにはいくつかの先例があります。 Biden政権は2023年にDPAを発動し、最先端のAI研究所にAIモデルの安全性に関する情報を渡すよう強制しました。しかし、単に情報を提供するのではなく、企業に製品を生産するよう強制することは、大手技術企業の国有化に近づく。
Ó hÉigeartaighは、「彼らが戦場でのような重大な生死の状況では信頼できないと言う方法で技術を使用することを効果的に強制するならば、これは非常に危険な先例になるでしょう」と述べました。
戦争部は大量監視を実施したり、目標物を目指す武器から人間を除去する意図がないと公に明らかにした。しかし、紛争は、両側が実際に「自律」または「監視」をどのように定義するかによって異なります。国務省のスポークスマンは、フォーチュンジのコメントの要請にすぐには答えなかった。
Anthropicの広報担当者は、Fortuneとのインタビューで、同社は戦争部との継続的な「善意の関係」を維持していると述べた。しかし、スポークスマンは一晩受け取った契約書が核心問題について「事実上進展がなかった」と話した。彼らは、「妥協で編まれた」新しい言語が「そのような安全装置を勝手に無視できるようにする法律用語と対になった」と述べました。 Amodeiは、戦争の脅威が「本質的に矛盾している」と述べた。 「一つは私たちをセキュリティリスクに分類し、もう一つは国家安全保障に不可欠なものとしてクロードを分類します」
アントロピックは固く立ち去ろうとする意志のためにいくつかのコーナーで賞賛を受けました。ハーバード法学教授のローレンス・レッシグ（Lawrence Lessig）は、会社の声明を「清潔さと原則の美しい行為」と称賛し、「私たちの時代には信じられないほど珍しい」と述べました。
競合他社のOpenAIとxAIは、彼らのモデルをすべての合法的な目的に使用できるようにする国防総省契約に同意し、xAIはさらにいくつかの機密設定にシステムを配布することに同意しました。しかし、競争研究所であるGoogle DeepMindとOpenAIの現在の330人以上の従業員が、Anthropicを支持する公開書簡を発表しました。 「彼らは他の会社が屈することを恐れて各会社を分裂しようとしています。」と手紙には書かれています。 「その戦略は、私たちの誰も他の人がどこにいるのかわからない場合にのみ効果があります」署名者は、シニア研究科学者と両社の指名と匿名の研究者を含んでいた。
ÓhÉigeartaighは、紛争の結果がアントロピック自体をはるかに超えている可能性があると述べた。彼は「もし国防部がこの問題を解決すれば、これら企業の独立性や倫理的基準を遵守する能力に悪い先例を立てるだろう」と話した。
