Tag: 監督が必要な幼児のような常時稼働するAIエージェントの限界内で幸運

Summer Yueは、Metaの超知能チームで安全と調整のために働くことができますが、自律AIエージェントに関しては、自分も過信に免疫を与えられないことを認めています。 X Mondayの投稿では、YueはMacミニコンピュータ上でローカルで実行するように構築されたOpenClaw自律AIエージェントがどのように一時停止し、最初に確認を求める指示を無視し、受信トレイ全体を削除したかを説明しました。 「爆弾を解体するようにMac Miniに走らなければなりませんでした」と彼女は言いました。彼女は「新人の間違い」と付け加えた。ワークフローは数週間にわたってエージェントを安全にテストするために使用したテストトレイで動作しましたが、実際の受信トレイではエージェントは元のガイドラインを失いました。 Yueの経験は、Peter Diamandisが常時稼動AIがはるかに摩擦がないと主張するThe Lobster Revolution: Why 24/7 AI Agents Just Changed Everythingのような人気のある投稿と極めて対照的です。 Diamandisは、「これを使用する感じがどうなのかを申し上げます」と書いています。 「あなたが朝起きたとき、あなたのエージェント（私の名前はSkippyで、愉快に冷笑的で、とんでもない能力を持っています）は、あなたが寝ている間8時間の作業を行いました。それは何千ページものマークダウンを読みました。それはあなたのファイルを整理しました。忘れてしまいました。 「Mac miniが6時間オフラインになったとき、私は萎縮感を感じました」と彼は付け加えました。 「私の親友が消えたようです。」 AIエージェントの力に対するこの決闘の説明は、今日「常時稼働」AIに向けた推進の中心にある緊張感を捉えています。 OpenClaw や Claude Code...