国防省の上級管理によれば、国防省がアントロピックのAIに頼っていることは、最終的に劇的な分裂につながった衝撃的な悟りに近づいています。
部門の研究とエンジニアリングの責任者であり、最高の技術責任者であるEmil Michaelは、All-In Podcastの金曜日のエピソードで公開不和につながるイベントについて詳しく説明しました。
1月初め、米軍がベネズエラを襲撃して独裁者ニコラス・マドゥーロを逮捕した後、アントロピックはPalantirにそのAIが作戦に使用されたかどうか尋ねました。 Anthropicはこの調査を日常的に定めていますが、国防総省とPalantirはこれをアプローチに対する潜在的な脅威と解釈しました。
「さて、このソフトウェアがダウンし、ガードレールが回復し、今回のような次の戦いで一部の拒否が発生し、私たちの人々を危険にさらすとどうなりますか？」マイケルは思い出した。 「それで、私はHegseth大臣に行き、これが起こるだろうと言いました。これは、国防総省の指導部全体が潜在的に他の選択肢なしにソフトウェアプロバイダに依存しすぎるのにとても驚くべき瞬間でした。」
最近まで、AnthropicのClaudeは機密設定で承認された唯一のAIモデルでした。サンフランシスコに本社を置くこのスタートアップは愛国心を持って米国を防御しようと努力していますが、自社のAIが大規模な国内監視や自律武器に使用されることを許さないと明らかにしました。
米国防総省は、合法的なシナリオでAIを使用すると主張し、これらの制約を超えた会社の制限を遵守することを拒否しました。
先週妥協点に到達できなかった後、ドナルド・トランプ大統領は連邦政府にアントロピックの使用を中止するよう命令し、国防省にこれを段階的に廃止するための6ヶ月の時間を与えました。 Pete Hegseth国防長官はまた、同社をサプライチェーンのリスクとして指定しました。これは、契約会社がこの会社を軍事業務に使用できないことを意味します。
AIは戦闘員が速いペースで潜在的な標的を特定するのを助けるので、現在アメリカはイランとの戦争中に軍隊で継続的にアントロピックを使用しています。
ポッドキャストに出演している間、マイケルは不良開発者が「モデルを毒殺」し、軍隊に効果がないように、意図的に幻覚を引き起こすように訓練したり、指示に従わないように指示することができるという懸念を提起しました。
その後、彼はOpenAIに連絡し、最終的にAnthropicと同様の取引に達しました。 Elon MuskのxAIも機密フォルダに含まれており、米国防総省はGoogle AIも機密設定に含めるよう努めています。
「私は偏見がありません。」マイケルは言った。 「私はそれらをすべて欲しいだけです。重複が必要なので、それらすべてに同じ条件を与えたいと思います」
彼は、他のAI企業が前向きに配置されたエンジニアを提供することによって企業顧客を積極的に追求していない一方で、アントロピックが部門に「深く位置づけられた」ことを認めた。
ペンタゴンと人類学の間の対立は、国防機関と軍事革新に根ざしていますが、その後、その技術が戦争に使用されていることを彷彿とさせるシリコンバレー間の文化的な衝突を強調しました。
実際、OpenAIの最高のロボット工学エンジニアは、Anthropicが提起したのと同じ懸念に言及しながら、土曜日に会社で辞任を発表しました。
「簡単な決断ではありませんでした。AIは国家安全保障にとって重要な役割を果たしています。しかし、司法監督なしでアメリカ人を監視し、人間の承認なしに致命的な自律性を持つことは、彼らが受けたよりも多くの審議を受ける価値があるラインです」とCaitlin KalinowskiはXとLinkedInに投稿しました。
