スコット・ベセント（Scott Bessent）財務大臣とジェイ・パウエル（Jay Powell）連邦準備制度（Fed）議長は、今月初め、米国の主要銀行最高経営者を招集し、アントロピック（Anthropic）の最新モデルであるミトス（Mythos）について議論しながら、人工知能が金融である。これは、イノベーションに関する会議ではなく、脆弱性を特定して活用できるモデルがコア金融インフラストラクチャに重大なリスクをもたらす可能性があるという警告でした。
その懸念は正当です。しかし、焦点が狭すぎます。
近年、主要な金融機関と話し合い、AIの敵対的な使用が理解されれば、懸念がどれほど早くなるかを確認しました。しかし、行動への移行はまだ遅くて不均一です。現在、関心の大部分はサイバーリスクに集中しています。これは深刻な脅威です。しかし、それは唯一のものではなく、最も即時ではありません。
ミトスが強調したリスクとともに、並行脅威はすでに大規模に展開されています。これは新しいフロンティアモデルではなく、すでに広く利用可能なAI機能に依存しています。そして、システムへのアクセスを必要とするサイバー攻撃とは異なり、この脅威は人をターゲットにして機能します。
変わったのは単純な洗練さではなく経済性です
人工知能により、詐欺行為がはるかに安くなり、実行が容易になり、スケーラビリティがはるかに高くなりました。かつて時間と調整が必要であったことは、自動化され、工業規模で展開できるようになりました。 AIシステムは、特定の個人に合わせて数千の説得力のあるメッセージ、音声、ビデオを数秒で生成できます。これは増分されません。構造的です。
詐欺は手動活動から機械中心活動に転換された。多くの場合、AIエージェントによって駆動される超個人化されたソーシャルエンジニアリングキャンペーンは、複数のチャネル、管轄権、およびIDにまたがって運営されています。彼らは信頼性を高め、緊急性を引き起こし、承認された移転を導き、役員、アドバイザー、家族のメンバーになります。
このようなシナリオでは、システムは侵害されません。迂回されます。
システムがハッキングされていません。顧客は確信しています。
お客様が必ずしもハッキングされているわけではありません。彼らは確信しています。そして取引が承認されたため、既存の保護装置が効果がない場合が多いです。バイオメトリック検査はディープフェイクによって無効にすることができます。ルールベースの監視は、機械速度で動作するAIエージェントの調整されたネットワークではなく、人間の詐欺師を検出するように補正されます。
これは根本的に異なるタイプのリスクを引き起こします。
断続的で目立つ傾向のあるサイバー攻撃とは異なり、AIベースの詐欺は何百万もの取引で継続的かつ分散した資金漏洩として機能します。実行が簡単で、拡張が速く、損失が深刻になるまで目立たないことがよくあります。今後数年間で数兆ドルの損失が発生すると予想されます。
リスクは金銭的なものだけではありません
金融機関が操作や詐欺から顧客を保護することができないと公衆が信じると、システムへの信頼は弱まります。結果は損失を超えて拡大します。摩擦が増加し、顧客は躊躇し、銀行の資金保護能力への信頼はサイバー脅威に弱くなる可能性があります。
これはサイバーリスクよりも大きな脅威ではありません。それは平行です。そしてそれは同様の関心を得る価値があります。
漸進的な修正ではなく、防御の再設計
ほとんどの機関は、依然として適応型AIベースの脅威に対応できない断片化されたデータ、レガシーモニタリング、および人間主導分析に依存しています。意味のある対応にはアーキテクチャの再設計が必要です。リアルタイムAIベースの検出。詐欺、AML、行動信号の統合。承認された支払いを含む取引時点に介入する能力。
同時に、機関はAIベースの脅威を防御するためにAIを使用する「AI防御」アプローチを採用する必要があります。人間だけで構成された一次防御線は拡張できません。 AIベースのシステムは、人の監督の下でより迅速な検出と対応をサポートする必要があります。
規制当局もこの問題について招集しなければなりません。
神話の瞬間の教訓は、AIがシステムを破壊する可能性があるだけではありません。金融システムはすでに異なる方法で悪用されています。つまり、目に見えにくく、拡張性に優れ、潜在的に腐食性のある方法です。
金融システムが迅速に対応しないと、損失の増加、摩擦の増加、大衆の信頼が深刻に損なわれるなど、結果が深刻になります。
規制当局は、すでに悪意のある行為者が手に持っている可能性のある災害が完全に現実化する前に、AIリスクと並行してこの問題について上級金融指導者を招集する必要があります。金融システム、技術部門、政策立案者は、これらの脆弱性の規模を認識し、はるかに緊急に行動する必要があります。
Fortune.comのコメントに記載されている意見は、単にその著者の意見にすぎず、必ずしもFortuneの意見や信念を反映しているわけではありません。
