樹脂ワイルズホワイトハウス秘書室長は、国家安全保障と経済をどのように変えることができるかについて連邦政府の関心を集めている人工知能会社の新しいMythosモデルについて、アントロピックCEO Dario Amodeiの意見を明らかにする計画です。
金曜日に計画された会議を議論するために匿名を要求したホワイトハウスの関係者は、行政は、モデルとソフトウェアのセキュリティについて高度なAI研究所と協力していると述べた。この関係者は、連邦政府が使用できる新技術は評価のための技術的期間が必要であると強調した。
今回の会議は、トランプ政権と安全を重視するアントロピックの間に緊張が高まった後に行われました。 Anthropicは、潜在的なリスクを最小限に抑え、米国の経済と国家安全保障の利益を最大化するためにAI開発にガードレールを置くことを試みました。
ドナルド・トランプ大統領は、ペンタゴンと会社との契約紛争に対して、すべての連邦機関がアントロピックのチャットボット・クラウドを使用するのを阻止しようと努め、トランプ氏は2月、ソーシャルメディアの投稿で政権は「彼らと再び取引しない」と述べた。
Pete Hegseth国防長官はまた、アントロピックをサプライチェーンのリスクとして宣言しようとしました。同社は、国防総省が完全自律武器とアメリカ人の監視にその技術を使用しないと確信したいと述べた。 Hegsethは、同社は、国防総省が合法的であると考えるすべての使用を許可する必要があると述べた。
米国の地方裁判官Rita Linは、3月にすべての連邦機関にAnthropic製品の使用を中止するようにTrumpのソーシャルメディアコマンドを実施することをブロックする判決を下しました。
Anthropicは会議について事前に話すことを拒否しました。
サンフランシスコに本社を置くAnthropicは、4月7日に発表された新しいMythosモデルは、「驚くほど能力がありすぎて」コンピュータの脆弱性を見つけて悪用する上で、人間のサイバーセキュリティの専門家を凌駕する能力のため、特定の顧客にのみ使用を制限していると明らかにしました。
一部の業界の専門家は、あまりにも強力なAI技術に対するアントロピックの主張がマーケティング戦略であるかどうか疑問を投げかけていますが、会社を最も鋭く批判している人の中には、MythosがAIのさらなる発展を示す可能性があると提案しています。
ホワイトハウスのAIと暗号通貨皇帝であった影響力のある人類学批評家であるDavid Sacksは、人々は「この問題を真剣に受け入れなければならない」と述べました。
Sacksは、他の技術投資家と共同進行する「All-In」ポッドキャストで、「Anthropicが人々を脅かすたびに、「これは戦術ですか？これがチキンリトルルーチンの一部ですか？それとも本当ですか？」と尋ねなければなりません。」 「サイバーの場合、実際にこの場合に功労を認め、これが実際の側面に近いと言いたいです」。
Sacksは、「コーディングモデルの能力がますます向上するにつれて、バグを見つける能力が大きくなることは理解されます。つまり、脆弱性を見つける能力がより大きくなるという意味です。つまり、複数の脆弱性を組み合わせてエクスプロイトを生成するために多くの能力があるという意味です」と述べました。
このモデルの潜在的な利点と危険性は、米国以外の地域でも注目を集めています。
英国のAIセキュリティ研究所は、新しいモデルを評価した結果、すでに急速に改善されている以前のモデルよりも一歩進んだことが確認されたと明らかにしました。
研究所は報告書で「Mythos Previewは、セキュリティ状態が脆弱なシステムを悪用する可能性があり、これらの機能を備えたより多くのモデルが開発される可能性が高い」と明らかにした。
Anthropicはまた、欧州でまだリリースされていない高度なモデルを含むAIモデルについて欧州連合と協議していると欧州執行委員会のスポークスマンThomas Regnierが金曜日に語った。
アクシオスは、ウィルスとアモデイの間の予定された会議を最初に報告した。
Mythosを発表したとき、Anthropicは、新しいモデルが、公共の安全、国家安全保障、経済に及ぼす可能性のある「深刻な」落下から世界の重要なソフトウェアを保護するために、Amazon、Apple、Google、Microsoftなどの巨大技術企業とJPMorgan Chaseなどの他の企業を1つに集めるProject Glasswingというイニシアチブも構成していると明らかにしました。
今週のSemafor World Economyカンファレンスで、アントロピックの共同創設者であり政策責任者であるJack Clarkは、「私たちは世界で最も重要な企業や組織の一部にこれを公開し、彼らが脆弱性を見つけるために使用できるようにしています」と述べました。
ClarkはMythosが時代に先んじるが、「特別なモデル」ではないと付け加えた。
彼は「数ヶ月以内に他の会社からこのような他のシステムが出てくるだろうし、1年から1年半後にはこれらの機能を備えた中国のオープンモデルが出てくるだろう」と話した。したがって、世界はその中に存在するより強力なシステムを準備する必要があります。」
___
オブライアンはプロビデンスで報告し、RI APのビジネスジャーナリストであるケルビンチャンはロンドンでこの報告に貢献しました。
