21.2 C
Tokyo
Sunday, March 29, 2026
ホームタグのゴッドファーザージョシュア

Tag: のゴッドファーザージョシュア

spot_imgspot_img

AI の「ゴッドファーザー」ジョシュア ベンジオ氏は、AI の最大のリスクに対する技術的解決策を見つけたと信じています。運

現代の深層学習の基礎構築に貢献したモントリオール大学のジョシュア・ベンジオ教授はここ数年、AI業界で最も憂慮すべき声の一人であり、超知能システムは特に自己保存や欺瞞の可能性があるため、人類に生存上の脅威をもたらす可能性があると警告している。 しかし、フォーチュンとの新しいインタビューで、深層学習の先駆者は、彼の最新の研究がAIの最大の安全リスクに対する技術的解決策を提供すると述べた。その結果、過去1年間で彼の楽観主義は「著しく」高まったと彼は語った。 昨年 6 月に立ち上げられた Bengio の非営利団体 LawZero は、Bengio が主導した研究に基づいて AI の安全性に対する新しい技術的アプローチを開発するために設立されました。本日、ゲイツ財団と、Coefficient Giving (旧Open Philanthropy)やFuture of Life Instituteなどの実存的リスク資金提供者の支援を受けたこの組織は、ベンジオ氏の研究を指導し、世界的な公共財としてAIを開発するというその「道徳的使命」を推進するための、注目度の高い理事会と世界的な諮問委員会の任命を発表した。 理事会にはナイキ財団の創設者マリア・アイテル氏が会長を務め、カーネギー国際平和基金会長のマリアーノ=フロレンティーノ・クエジャール氏、歴史家のユヴァル・ノア・ハラリ氏が名を連ねている。ベンジオ自身も務める予定だ。 ベンジオさんは「絶望的」だと感じた ベンジオ氏がより楽観的な見通しに転換したことは驚くべきことである。ベンジオ氏は、2019年にAIの「ゴッドファーザー」仲間であるジェフ・ヒントン氏とヤン・ルカン氏とともにコンピューターサイエンスのノーベル賞であるチューリング賞を受賞した。しかし、ヒントン氏と同様、2022年11月にChatGPTが開始されて以来、ますます強力になるAIシステムのリスクについて懸念を強めている。対照的にルカン氏は、今日のAIシステムが人類に致命的なリスクをもたらすとは考えていないと述べた。3年前、ベンジオ氏はAIがどこに向かっているのかについて「絶望的」だと感じていたと語った。 「問題を解決する方法がまったく分かりませんでした」とベンジオさんは思い返します。 「超知能システムの制御不能など、非常に強力な AI によってもたらされる壊滅的なリスクの可能性を理解し始めたのは、ほぼその頃でした。」 変わったのは単一の突破口ではなく、前進する道があると信じさせる考え方でした。 「LawZero で行った仕事のおかげで、特に LawZero を作成して以来、私は今、隠れた目標や隠れたアジェンダのない...

必読

spot_img