Anthropic AIの強力なMythosモデルへのDiscordグループの不正アクセスは、強力なAIサイバーセキュリティツールの周りのガードレールに疑問を投げかけることを超えています。
これはサイバーセキュリティ産業に大きな問題をさらしている。 AIは欠陥を見つけて非常に迅速に悪用できるため、実際に公開された人は防御者になる可能性があります。
AIベースのDiscord情報探索者グループ（そのうちの1人はAIスタートアップのサードパーティベンダーとつながっています）は、デビュー当日の2月に高度に監視されたサイバーセキュリティ防御システムにアクセスすることに成功しました。
インサイダーアクセス、Web検索ボット、いくつかの原始的な独創性が混在したバッグを使用し、今回の侵害はすでに恐れた業界全体に新しいアラームの波を誘発しています。
皮肉なことに、Discordの出来事が展開され、Cloud Security AllianceはMythosが公開されてから数日後に発表された迅速な対応説明で、AIが組織が追いつくよりも早く脆弱性の発見を加速し、防御者に完全な嵐を引き起こしていると警告しました。
数百のソフトウェアシステムで数千の欠陥とゼロデーを見つけたMythosの導入により、パッチウィンドウの防御者が長年にわたって依存してきたパッチ期間が数日から数時間に効果的に減少しました。
公開されてハッカーによって採用される場合、セキュリティチームは必然的に問題の優先順位を決め、問題を解決する方法を決定するのに役立つ全く新しいプレイブックを構築しなければなりませんが、依然としてサイバー出血を防ぐことができるという保証はありません。
250人を超えるセキュリティリーダーが説明会を作成するのに役立ちました。ここでの課題は、もはや単に欠陥を見つけるのではなく、どの欠陥が実際に実際の危険をもたらすかを決定し、悪用に移行する前にそれを修正することであると主張します。
一部のセキュリティ専門家は、業界は依然としてこの変化を過小評価していると述べています。問題はもはや発見だけにあるものではありません。問題は、矯正、責任、AIが脆弱性の識別で実際の世界でどのように悪用されるかを示すものに変化するプロセスを防御者が追いつくことができるかどうかです。
神話の瞬間は、最終的に1つの強力なサイバーセキュリティモデルではなく、欠陥を見つけて武器化する間の短い期間に何が起こるのかということです。
現在、アントロピックの答えはProject Glasswingです。これは、同様のモデルがより広く使用される前に、重要なソフトウェアを保護するためにMythosを使用して厳密に管理される努力です。
しかし、それでも当面のより大きな問題を強調します。業界は今後何が起こるのかを知っており、国家攻撃やランサムウェア攻撃などのより大きな脅威から守るために、時々切実に必要なプレイブックを構築するためにまだ安心しています。
AIオタクグループが悪意のある意図なしに神話に入ることができる場合は、そのドアを通過する次の人が実際の犯罪者である場合、どのような結果が出るのか想像してみてください。
Fortune.comのコメントに記載されている意見は、単にその著者の意見にすぎず、必ずしもFortuneの意見や信念を反映しているわけではありません。
