ソフトウェアエンジニアのSammy AzdoufalがPlayStation 5ビデオゲームコントローラを使用して新しいDJI Romoロボットクリーナーを操縦するために席に座ったとき、彼は誤ってグローバル監視ネットワークを掌握するとは予想していませんでした. AzdoufalはAIコーディングヘルパーを使用して、掃除機がDJIのリモートサーバーと通信する方法をリバースエンジニアリングし、自分が特定のデバイスを所有していることを証明するためのセキュリティトークンを抽出しました。代わりに、Popular Scienceの報告によると、バックエンドサーバーは彼を24カ国で運営されているほぼ7,000台のロボット掃除機の所有者として扱いました。
数回のキーストロークで、Azdoufalはリアルタイムのカメラフィードを活用し、マイクを有効にすることができ、見知らぬ人の個人住宅のための2Dフロアプランを作成することもできます。彼はセキュリティバグを悪用するよりも責任を持って（The Vergeに）報告しましたが、この大きな脆弱性は恐ろしい現実を強調します。自動化されたシステムの迅速で未確認の統合により、前例のない大規模なセキュリティギャップが発生しています。
何百万人ものアメリカ人が、インターネットに接続されているこれらのデバイスを最も親密なスペースとしてますます歓迎しています。 Parks Associatesによると、2020年現在、約5,400万アメリカの家具に1つ以上のスマートホームデバイスが設置されています。また、Tesla、Figure、1Xなどの企業は、自宅で生活し、複雑な家事を行うことができる洗練された人間型の自律ロボットを導入するために競争しています。
スマートデバイスの監視機能は今年初め、Google NestデバイスがTodayショーの進行役であるSavannah Guthrieの母親であるNancy Guthrieの拉致容疑に関する映像をクラウドに保存しながら、全国的な話題となりました。その直後には、リング製品のAmazon Super Bowl広告が登場しました。これは、迷子になった犬を救う魅力的な姿を描くことを意図していましたが、実際にはアメリカ人を監視できるネットワークカメラがどこにでもあるという事実を明らかにしました。この反発により、Amazonは警察監視会社とのパートナーシップを中止しました。自律AIエージェントをこの組み合わせに追加すると、サイバーセキュリティ大企業のThalesが発芽しやすい悪夢のシナリオであると説明したのと同じ状況が発生します。
角を回ると悪夢のシナリオ
最近発表されたTales 2026データ脅威レポートによると、現在の組織のなんと70％がAIを最高のデータセキュリティリスクと明示的に述べています。また、リモートクラウドサーバーに依存するDJI掃除機と同様に、企業はAIを日常業務フローに積極的に含めることで、自動化されたシステムが膨大な企業データへの広範なアクセスを可能にしています。
重要な問題は、可視性と基本的なデータ制御が驚くほど不足していることです。 Thalesレポートによると、組織の34％だけが機密データがどこにあるのかを実際に知っています。そして、AIシステムは膨大なクラウド環境全体で継続的に情報を収集し、それに応じて動作するため、「最小アクセス権」を実施するか、必要な最小限のアクセス権のみを付与する慣行を適用することは非常に困難です。トークンやAPIキーなどのシステムの資格情報が破損した場合、データが公開される可能性があります。
実際、資格情報の盗難は現在クラウド管理インフラストラクチャへの主要な攻撃技術であり、クラウド攻撃を受けた組織の67％が言及しました。 7,000台のロボットクリーナーだけでなく、コミュニティ全体のNestまたはRingデバイスが代わりにAIエージェントによって制御されていると想像してください。
ルンバ掃除機を作ったiRobotの共同創業者であるRodney Brooksは、ヒューマノイドロボットによって駆動される未来に対するエロンマスクのビジョンはとても苦手だったため、「純粋な幻想的な思考」だったと述べました。
ブルックスはブログに、「今日のヒューマノイドロボットは、VCと主要技術企業が訓練費用を支払うために数億ドル、多分数十億ドルを寄付したにもかかわらず、機敏に動く方法を学ぶことができない」と書いた。その考えが、そのロボットをリモートで制御する人間やAIエージェントまで拡張されるかどうかはわかりません。
Thalesのサイバーセキュリティ製品担当上級副社長のSébastien Canoは、「内部のリスクはもはや人だけの問題ではありません。 Canoは、IDガバナンスやアクセスポリシーなどの基本的なセキュリティ対策が脆弱な場合、「AIは人間ができるよりもはるかに速く企業環境全体でこれらの弱点を増幅する可能性があります」と述べています。
悪いことに、ソフトウェアの構築に使用されるツール自体がこれらのシステムを活用するための進入障壁を下げています。 DJI サーバーを簡単にリバースエンジニアリングするために使用される Azdoufal などの AI ベースのコーディングツールを使用することで、技術的な知識が不足している個人がソフトウェアの欠陥を発見して悪用する方がはるかに簡単になります。これらの自動化された脅威の増加にもかかわらず、現在の調査対象企業の30％だけが、人間のユーザーのために構築された既存の境界防御に頼る専用のAIセキュリティ予算を持っています。
S&P Global 451 ResearchのシニアアナリストであるEric Hanselmanが指摘したように、基本的なパラダイム変換が緊急に必要です。
Hanselmanは、「AIが企業の運営に深く組み込まれているため、継続的なデータの可視性と保護はもはやオプションではありません」と述べました。
アイデンティティと暗号化プロトコルの根本的な見直しなしに、社会は本質的にビデオゲームコントローラを備えた次世代ソフトウェアエンジニアに扉を開いています。
