Tag: AI軍備競争でロシアンルーレットをする巨大技術経営陣は人類絶滅の危険を招く可能性があると最高研究者に警告幸運

人工知能を掌握するためのグローバル競争が最高潮に達しましたが、世界最高のコンピュータ科学者の一人は、ビッグテックが人類の未来をめぐって無謀にギャンブルをしていると警告しました。 AIで最大の声は、しばしば2つの陣営に属します。技術が世界を変えると褒める人々と、それが暴走する脅威になる前に、製紙や封じ込めを促す人々です。カリフォルニア大学バークレー校の先駆的なAI研究者であるStuart Russellは、確かに後者のグループに属しています。彼の主な関心事の1つは、政府と規制機関が技術の急速な発売に補助を合わせるために苦労しており、民間部門が冷戦の頂点以後見られなかった一種の危険な競争に陥る危険がある最後まで競争に閉じ込められているということです。 ラッセルは、インドニューデリーで開かれたAIインパクトサミットで、AFPに「政府が民間企業が本質的に地球上のすべての人間とロシアンルーレットを行うことを可能にすることは私の考えに完全な職務有機」と述べた。 技術CEOが次世代の最高のAIモデルを開発するために「軍備競争」に陥っている間、業界が維持する目標は最終的に医薬品の研究と生産性の膨大な発展を予告し、多くの人々はリスクを無視したり煩わせるとRussellは言います。最悪の場合、彼は規制のない革新の途方もない速度が人類の絶滅につながる可能性があると信じています。 Russellは、AIの迅速な展開に伴う存在するリスクについて知る必要があります。イギリス生まれのコンピュータサイエンティストである彼は40年以上にわたってAIを研究してきました。 2016年に彼はバークレーにAIの安全性に焦点を当てた研究センターを設立しました。 ニューデリーでは、Russellはブランド会社と政府がその目標に向かってどれだけ離れているかについて述べました。ラッセルの批判は最終的に創造者を制圧し、人類文明を「その過程で付随的な被害」として残すことができるシステムの急速な発展に重点を置きました。 主要なAI企業の首長はこれらの実用的なリスクを知っていますが、市場の力に関係なくトラップに陥っています。ラッセルは「主要AI企業のCEOは皆武装解除を望むと思う」と話した。しかし、「一方的に」そうすることはできません。なぜなら彼らの地位は競合他社によって急速に奪われ、投資家によって即座に追い出されるからだ。 新しい冷戦 存在の危険と人類の潜在的な絶滅の物語は、かつて強大国が競争者が自分たちを凌駕する恐れのために武器を備蓄した冷戦中に暴走する核拡散の亡霊のために残した。しかし、スチュワート・ラッセルのような懐疑論者は、人工知能の時代にますます同じフレームワークを適用しています。アメリカと中国の間の競争は、しばしば20世紀後半のワシントンとモスクワの間の核競争を定義した秘密、緊急性、そして高い利害関係で完成したAI「軍備競争」として描かれています。 ロシア大統領ウラジミール・プーチンは、ほぼ10年前に莫大な持分を掌握しました。彼は2017年のスピーチで「誰もがこの分野のリーダーになる人は世界の支配者になるでしょう」と述べました。 現在の軍備競争は弾頭数では測定できませんが、その規模は配置された膨大な量の資本で捕捉されます。国と企業は現在、AIを訓練し実行するためにエネルギー集約型データセンターに数千億ドルを費やしています。アナリストは、米国でのみAIの資本支出が今年6000億ドルを超えると予想しています。 しかし、積極的な企業行動はまだ規制措置による抑制と一致していないとRussellは言った。彼はインド首脳会談に言及し、「各政府がこの問題を理解すれば本当に役に立つ」と話した。 中国とEUは、技術規制に対するより強力な立場をとったAI開発強国の1つです。他の場所では現実はもっと触れませんでした。インドでは、政府は一般的に規制緩和アプローチを選んだ。一方、米国では、トランプ政権は、AIに対する親市場の理想を擁護し、企業に自由な統制権を与えるためにほとんどの州政府の規制を廃止しようとしました。