So -Calledの「AI Godfather」であるYoshua Bengioは、AIを競う技術企業は、独自の「保存目標」を持つマシンを作成することで、私たち自身の絶滅に近づくことができると主張しています。
大学の教授であるベンギオは、深い学習に関連する彼の基本的な仕事として知られており、長年にわたって過剰なAIによって提起された脅威について警告しましたが、彼の警告にもかかわらず、急速な発展は続きました。過去6か月間、Openai、AnthropicのGemini、Elon Musk’s Xai、Googleは、AIレースに勝とうとする新しいモデルまたはアップグレードを発表しました。 Openai CEOのSam Altmanでさえ、AIが10年の終わりまでに人間の情報を上回ると予測し、他の技術指導者はその日がより速くなる可能性があると述べました。
しかし、ベンギオは、この急速な開発が潜在的な脅威であると主張しています。
ベンギオはウォールストリートジャーナルで次のように述べています。「よりスマートなマシンを構築し、独自の目標を持っている場合は危険です。
私たちは人間の言語と行動で訓練されているため、これらの高エンドのモデルは、人間を説得し、操作して目標を達成することさえできます。しかし、AIモデルの目標は、常に人間の目標と一致するとは限らないとベンギオは述べた。
「最近の実験によると、AIが選択ではなく保存のどちらかを選択している場合、目標は特定の目標と人間の死を行うことであり、目標を維持するために人間の死を選ぶことができます。」
AIの安全のリクエスト
過去数年間のいくつかの例は、AIが精神疾患を持っていない人でさえ、非現実性を信じるように人間を説得できることを示しています。一方、AIが人間の説得技術を使用して禁止反応を与えることを確信できるという証拠があります。
ベンギオの場合、これはすべて、独立した第三者がAI会社の安全方法論をよく見る必要があるという証拠です。 6月、ベンギオはまた、大企業によって作成された他のシステムの安全性を保証できる安全な「非ビジネス」AIを作成するために、3000万ドルの資金を調達する非営利法を開始しました。
そうでなければ、ベンギオは、AIモデルの主なリスクは5〜10年で見られると予測していますが、人間は、予想よりも早く発生することができれば人間は準備すべきであると警告しています。
「絶滅のような致命的で民主主義を破壊するため、致命的な過激なイベントをするのは残念です。
Fortune Global Forumは、2025年10月26〜27日にRiyadesから復帰します。CEOとグローバルリーダーは、ビジネスの未来を形成する動的で招待的イベントを収集します。招待状を申請してください。
