スコット・ベッセント財務大臣とジェローム・パウエル連盟議長は、火曜日のウォールストリートの指導者たちを集め、アントロピックの最新のAIモデルに関する緊急会議を開き、より大きなサイバーセキュリティリスクについて懸念を表明した。
BessentとPowellは、Anthropicの新しいモデルであるMythosと同様の将来のモデルが提示するサイバーリスクを銀行が認識できるように財務省本部で上級役員グループを構成したとBloombergとFinancial Timesが報告しました。ブルームバーグ通信によると、参加者の中にはシティグループCEOジェーン・フレイザー、モーガンスタンレーCEOテッドピック、バンクオブアメリカCEOブライアンモニーハン、ウェルズファーゴCEOチャーリーシャープ、ゴールドマンサックスCEOデビッドソロモンなどが含まれた。 JPMorganのCEOであるJamie Dimonも招待されたが、出席できなかったと消息筋は言った。
ヨンジュンはフォーチュンジに対するコメントを拒否した。財務省は、Fortuneのコメントの要請にすぐには答えなかった。
この会議は、Fortune が Anthropic がこれまでに開発した中で、「最も強力な AI モデル」と説明する未公開モデルを開発していると単独で報道してから数週間で行われました。 Anthropicは先月、コンテンツ管理システムを通じてこのモデルの存在を思わず公開しました。その後、同社はそのモデルがClaude Mythosであることを認めた。
Anthropicは火曜日に「Claude Mythos Previewのサイバーセキュリティ機能の評価」というタイトルのレポートを発表しました。このレポートでは、このモデルが最も安全なオペレーティングシステムの1つとして知られているOpenBSDの27年の脆弱性だけでなく、10年と20年の多くの脆弱性をどのように見つけることができたかについて説明しました。
Anthropicは、リリース前にMythos Previewの機能について米国の上級政府官僚と業界の利害関係者に説明したと、この問題についてよく知っている誰かがFortuneに語った。ブログ記事では、同社は新しいAIモデルをリリースする際に、国家安全保障を最優先事項にするためにすべての政府関係者と協力することを意図しており、米国がAI技術のリーダーを維持していると述べた。
Anthropicは、Fortuneとのインタビューで、政府とのパートナーシップが最初から会社の計画だったと述べました（会社は現在、国防省がAI技術の使用を制限したという理由で国防省をブラックリストに載せた後、国防省と法的戦いを行っています）。
Anthropicの新しいAIモデルは「サイバーセキュリティを再構成」できるため、Project Glasswingを開始しました。
Anthropicは、JPMorgan Chase、Amazon、Google、およびその他の主要技術企業と協力して、今週AI開発の中で重要なソフトウェアを保護するためのプロジェクトであるGlasswingプロジェクトを開始しました。パートナーシップの一環として、Anthropicはブログ記事で学んだことを技術および金融サービス業界と共有することを明らかにしました。
パートナーに加えて、同社は重要なソフトウェアインフラストラクチャを構築または展開する40の追加組織へのアクセスを拡張し、最も基本的なAI使用単位であるMythos Previewの使用クレジットに最大1億ドルを約束しました。 Anthropicは、同社が「サイバーセキュリティを再編成する」ことができると信じる新しいフロンティアモデルであるMythosが観察した能力に対応して、このプロジェクトが始まったと述べました。
「AIの発展速度を考えると、これらの機能が潜在的に安全に配布されるように努力している行為者を超えて広がるまでそれほど時間がかかりません」とポストは警告しました。 「経済、公共安全、国家安全保障への落ち込みは深刻な可能性があります。」
Anthropicは、火曜日のポストで、「類似した機能を備えたモデルが広く使用される前に防御者が最も重要なシステムセキュリティを開始できるようにする」と、限られた業界パートナーグループに新しいモデルを初めてリリースすると発表した。
他のビジネスリーダーは、強力なAIモデルが提起するサイバーセキュリティリスクについて警告しました。 Dimonは、株主に送られた年次書簡で、主要産業と企業がAIによって直面しているサイバーセキュリティリスクについて説明し、サイバーセキュリティは「私たちの最大のリスクの1つです」と述べました。彼は「AIがこのリスクをさらに悪化させることがほぼ確実だ」と付け加えた。
Project Glasswingの一環として、JPMorganはAIの急速に発展する機能によって引き起こされるサイバーリスクを減らすことを目指しています。 JPMorganの最高情報セキュリティ責任者であるPat Opetは、声明を通じ、「金融システムのサイバーセキュリティと弾力性を高めることがJPMorgan Chaseの使命の核心です。
「プロジェクトGlasswingは、私たち自身の条件と尊敬される技術リーダーと共に、重要なインフラ全体にわたって防御的なサイバーセキュリティのための次世代AIツールを評価するための独自の初期段階の機会を提供します」と彼は付け加えました。
