Tag: Amodeiの原則的な立場について怒りました幸運

アントロピックが去る1月、ニコラス・マドゥーロ空襲当時、国防部がClaude AIモデルを使用することについてアントロピックが懸念を提起した後、国防部と締結した2億ドル契約が取り消された。 国防省のスポークスマンSean Parnellは、Fortuneに送られた声明で「戦争部とアントロピックの関係が再検討されています」と述べました。 「私たちの国は、私たちのパートナーがどんな戦いでも私たちの兵士が勝つのを手伝ってくれることを求めています。 The Hillによると、アントロピックの最高経営責任者がPalantirの上級役員に連絡し、Claudeが襲撃にどのように使用されたかを尋ねた後、最近数週間の緊張が高まりました。パランティル経営陣は、これらの支援を空襲でそのモデルを使用することに反対すると解釈し、交換の詳細を国防省に伝えた。 （トランプ大統領は、軍が空襲中に敵の装備を「作動しない」ようにする「解体」武器を使用したと言いました。） AnthropicのスポークスマンはFortuneに送った声明で、「Anthropicは戦争部門と特定の作戦にClaudeを使用することについて議論したことがない」と述べた。 「また、厳格な技術的問題についての日常的な議論に加えて、業界パートナーとそれについて議論したり、懸念を表明したりしませんでした」。 この議論の中心には、AIモデルが防衛作戦にどのように使用できるかを規定する契約上のガードレールがあります。 Anthropic CEO Dario Amodeiは、AIの使用と規制に対する厳しい制限を継続的に提唱しており、安全と利益のバランスをとることが困難になることを認めました。数ヶ月間、同社と国防総省は、Claudeが軍事作戦にどのように使用できるかについて議論の余地のある交渉を行いました。 国防総省の契約に基づき、アントロピックは国防総省がアメリカ人の大量監視のためにAIモデルを使用したり、完全自律兵器に技術を使用したりすることはできません。同社はまた、その技術を「殺害」または「運動」軍事アプリケーションに使用することを禁止しました。マドゥーロ空襲中に銃撃に直接関与する場合、その条項に違反する可能性が高い。 OpenAI、Google、xAIを含む政府と契約を結んだAI企業の中で、AnthropicはClaudeを国防省の機密ネットワークで承認された唯一の大規模言語モデルとして選定し、収益性の高い位置を占めています。 アントロピックは、フォーチュンに送られた声明でこれらの立場を強調した。 「Claude は、当社の利用方針に基づき、DoW を含む政府全体にわたるさまざまな情報関連のユースケースに使用されます。」 同社は「米国国家安全保障を支援するためにフロンティアAIを使用することに専念している」と声明は明らかにした。 「私たちは、作業を継続し、これらの複雑な問題を解決する方法について、DoWと誠意を持って生産的な対話を交わしています。」 Palantir、OpenAI、Google、xAI はコメントのリクエストにすぐには対応していません。 AIが戦争に出る DODはAIを作戦に統合する努力を加速したが、xAIだけがDODに「すべての合法的な目的」としてモデルを使用することを許可し、残りは使用制限を維持した。 Amodeiは、政府規制のない状況でOpenAIとGoogleの安全優先の代替手段としてAntropicを提供し、数ヶ月間ユーザー保護について警告してきました。彼は去る11月「一部の会社がこのような決定を下すのが非常に不便だ」と話した。アントロピックが規制緩和を計画しているという噂が回ったが、今会社は防産業から完全に退出する可能性に直面している。 米国防総省の上級関係者は、ピート・ヘグセス（Pete Hegseth）Axios国防長官が、アントロピックを軍のサプライチェーンから排除する計画に「近い」と、軍と事業を遂行しようとする人は誰もが会社との関係を断つよう強制していると述べた。 先輩関係者は「解放することは途方もない苦痛になるだろう」とし「私たちは彼らが私たちの手をこんなに強制したことに対する対価を払わせるだろう」と話した。 軍需品供給リスクの問題とみなされるのは、一般的に外国の敵にのみ付与される特別な指定です。最も近い先例は、政府が2019年の国家安全保障問題を理由にHuawei社を禁止したことです。 Anthropicの場合、情報源はAxiosに国防関係者たちがしばらくサンフランシスコに本社を置く会社との戦いを模索してきたと述べた。 米国国防部の発言は最近沸騰している公開紛争の一環だ。政府は、企業がモデルに倫理的な限界を設定することは不必要に制限されており、灰色の領域が多すぎて技術を役に立たなくすると主張している。米国防総省が使用拡大のためにAI下請業者と交渉し続けるにつれて、公開紛争はAIの使用を誰が指示するかについての代理戦となります。