Tag: セキュリティ専門家はAIエージェントの悪い男の子OpenClawについて不安を抱いています幸運

AIレポーターSharon Goldmanと一緒にEye on AIへようこそ。今回のエディションでは：OpenClawの大まかな面… Anthropicの新しい2000万ドルスーパーPACカウンターOpenAI… OpenAIは、超高速出力用に設計された最初のモデルをリリースします。 AnthropicはAIデータセンターで電気代を引き上げます。 Isomorphic Labsは、AlphaFoldを越えて新しい生物学的領域を開いたと言います。 OpenClawに素晴らしい仕事をする特別な権限を与えるのに問題がありますか？当然、データの漏洩、意図しないコマンドの実行、マルウェア、またはいわゆる「即時注入」攻撃を介して攻撃者によって静かにハイジャックされるなどしてはいけないことを行う機会を多く提供するという事実も驚くことではありません。 （AIエージェントが利用可能なデータに誰かがAIエージェントへの悪意のある指示を含む場合） 私が今週インタビューした2人のサイバーセキュリティ専門家は、OpenClawについての興味深い点は制限がなく、基本的にユーザーが望むようにカスタマイズする自由な権限を提供することです。 企業に脅威暴露管理サービスを専門として提供するZafran Securityの共同創設者であり、CTOであるBen Seriは、「唯一のルールはルールがないということです」と述べた。 「それもゲームの一部です」しかし、ルールと境界はハッカーや流出を防ぐための鍵であるため、ゲームはセキュリティの悪夢に変わることがあります。 典型的なセキュリティ問題 Cyber​​AIプロジェクトに参加しているジョージタウンのセキュリティ＆新興技術センター（CSET）の研究者であるColin Shea-Blymyerは、セキュリティの問題は非常に古典的なものだと述べました。権限設定エラー（誰が何をすることを許可されているか）は、人間が誤ってOpenClawに自分が思うよりも多くの権限を与える可能性があり、攻撃者がそれを利用できることを意味します。 たとえば、OpenClawでは、ほとんどのリスクは、開発者が「技術」と呼ぶことから来ています。テクノロジは、基本的にAIエージェントがファイルアクセス、Webナビゲーション、コマンドの実行などのタスクを実行するために使用できるアプリまたはプラグインです。違いは、通常のアプリとは異なり、OpenClawはこれらのテクノロジを使用するタイミングと接続方法を独自に決定することです。つまり、小さな権限ミスがはるかに深刻な問題で、すぐに雪玉のように吹く可能性があることを意味します。 「これを使用してレストランの予約ページにアクセスし、あらゆる種類の個人情報を含むカレンダーにアクセスできると想像してください」と彼は言いました。 「それともマルウェアですが、間違ったページを見つけてウイルスをインストールするとどうなりますか？」 OpenClawは文書にセキュリティページを含め、ユーザーに警告と認識を維持しようとしているとShea-Blymyerは言った。しかし、セキュリティの問題は、ほとんどの一般ユーザーが完全に理解するのが難しい複雑な技術的な問題のままです。また、OpenClawの開発者は脆弱性を修正するために一生懸命努力することができますが、エージェントが自分で機能する可能性がある根本的な問題を簡単に解決することはできません。これがまさにシステムがそもそもとても魅力的な理由です。 「この種のシステムには根本的な緊張感があります」と彼は言いました。 「より多くのアクセス権を与えるほど、より面白くて面白いでしょう。しかし、同時により危険になるかもしれません」 大企業は採用が遅いでしょう。 Zafran SecurityのSeriは、OpenClawのようなシステムに関しては、ユーザーの好奇心を踏む可能性はほとんどないと認めたが、企業が制御できず安全でないシステムを採用するのにはるかに長い時間がかかると強調した。彼は、一般ユーザーにとっては、爆発性の高い物質を扱う化学実験室で作業しているかのように実験する必要があると述べました。 Shea-Blymyerは、OpenClawが趣味生活レベルで最初に起こっていることは肯定的なものであると指摘しました。 「誰かが企業レベルでエコシステムを試みる前に、私たちはエコシステムについて多くを学びます」と彼は言いました。 「AIシステムは、私たちが想像できない方法で失敗する可能性があります」と彼は説明しました。 「（OpenClaw）は、さまざまなLLMがそのように振る舞う理由と、新しいセキュリティ問題に関する多くの情報を提供できます。」 しかし、OpenClawは今日趣味の実験であるかもしれませんが、セキュリティの専門家はこれを企業が最終的に配布の圧迫感を感じる自律システムの種類のプレビューと見ています。 Shea-Blymyerは、現在誰かがセキュリティ研究の対象になることを望まない限り、一般ユーザーはOpenClawを遠ざけたいと言っています。それ以外の場合は、個人のAIエージェント秘書が非常に非友好的な領域にさまようとしても驚かないでください。 AIの運CapgeminiのCEOが警告しました。あなたはAIについて完全に間違って考えているかもしれません - 著者：Kamal Ahmed Googleのノーベル賞受賞AIリーダーは、10年または15年間の大脱出以来、「ルネッサンス」を控えています。寄稿者:...