デビッド・サックスは、この断絶はAIが仕事、プライバシー、経済そのものの将来を脅かすからではないと主張する。いいえ。ベンチャーキャピタリストからトランプ顧問に転身した同氏によると、これはすべて、同氏が「ドゥーマー産業複合体」と呼ぶ数十億ドル規模の陰謀の一部であり、有罪判決を受けたFTX創設者サム・バンクマン・フリード氏やフェイスブック共同創設者ダスティン・モスコヴィッツ氏らの資金提供を受けた有能な利他的億万長者の影のネットワークだという。
今週のXポストでサックス氏は、AIに対する国民の不信感は自然なものではなく作られたものだと主張した。同氏は、何年もかけてシンクタンク、非営利団体、未来学者の「AIの破滅」エコシステムをマッピングしてきた技術文化学者ニリット・ワイスブラット氏の業績を指摘した。
Weiss-Blatt は、高度な AI システムに対する厳格な規制や一時停止を推進する何百ものグループを文書化しています。彼女は、これらの組織の背後にある資金の多くは、フェイスブック共同創設者のダスティン・モスコヴィッツ、スカイプのジャーン・タリン、イーサリアム創設者のヴィタリック・ブテリン、有罪判決を受けたFTX創設者サム・バンクマン・フリードを含む、効果的な利他主義運動の少数の寄付者グループに遡ることができると主張する。
ワイスブラット氏によると、これらの慈善家たちは、AIによってもたらされる「実存的リスク」の研究や軽減のための取り組みに合わせて10億ドル以上をつぎ込んでいるという。しかし彼女は、モスコビッツ氏の組織であるオープン・フィランソロピーが「これまでのところ」最大の寄付者であると指摘した。
この組織は、SF のような破滅と暗闇のシナリオを投影しているという考えを強く拒否しました。
「テクノロジーと科学の進歩が人間の幸福を劇的に改善したと私たちは信じています。そのため、私たちの活動の多くはこれらの分野に焦点を当てています」とOpen Philanthropyの広報担当者はフォーチュンに語った。 「AIは科学を加速し、経済成長を促進し、人類の知識を拡大する大きな可能性を秘めていますが、同時に前例のないリスクももたらします。これは政治的立場を超えた指導者が共有する見解です。私たちは、これらのリスクを管理し、AIの巨大な可能性を実現するための思慮深い超党派の取り組みを支援します。」
しかし、シリコンバレーのベンチャーコミュニティと密接な関係があり、ペイパルの初期幹部を務めたサックス氏は、オープン・フィランソロピーの資金提供は単にリスクを警告する以上の効果があったと主張する。これは、「神のような」AI を警告する世界的な PR キャンペーンに賛同しました。同氏は、同氏が「プロパガンダ資金」と呼ぶものが米国での議論を再形成していることの証拠として、中国の回答者の83％がAIの利益が害悪を上回ると考えていると回答した世論調査を引用し、米国ではわずか39％にとどまった。
サックス氏は長年、中国に勝つための競争において、AIや幅広いテクノロジーに対する業界に優しい、規制のないアプローチを推進してきた。
サックス氏のベンチャーキャピタル会社クラフト・ベンチャーズはコメント要請に応じていない。
効果的な利他主義とは何ですか?
サックス氏が言及する「プロパガンダ資金」は主に、効率的利他主義（EA）コミュニティから来ている。このコミュニティは、人類の最大の道徳的義務は、不正なAIを含む将来の大惨事を防ぐことであると信じている理想主義者、哲学者、ハイテク億万長者の風変わりなグループである。
オックスフォードの哲学者ウィリアム・マカスキル氏とトビー・オード氏によって 10 年前に設立された EA 運動は、寄付者がデータと論理を活用して最善の善を行うことを奨励しています。
この枠組みにより、一部の加盟国は「長期主義」、つまりパンデミック、核戦争、不正AIなどの存続リスクを防ぐことが短期的な原因よりも優先されるべきであるという考えに注目するようになった。
一部の EA と連携した組織は、AI 規制の強化やモデル開発の「一時停止」さえ主張していますが、Open Philanthropy などの他の組織は、より技術的なアプローチを採用し、OpenAI や Anthropic などの企業から連携した研究に資金を提供しています。この運動の影響力は、2022年のFTX破綻前に急速に拡大したが、FTXの創設者バンクマン・フリード氏はEAの最大の支援者の一人だった。
EA で著名なサブスタックに所属する 21 歳の大学生、マシュー・アデルスタイン氏は、この環境はサックス氏が説明するモノリシックマシンとは程遠いと指摘する。 Weiss-Blatt 独自の「AI 実存リスク エコシステム」のマップには、大学の研究室から非営利団体やブログに至るまで、同様の言語を共有しているものの、必ずしも連携しているわけではない数百もの個別の組織が含まれています。しかしワイスブラット氏は、「エコシステムの拡大」は「トップダウンの動きであり、草の根の動きではない」と主張する。
アデルスタイン氏はこれに同意せず、現実はワイス・ブラット氏やサックス氏が描いているよりも「より細分化されており、悪質性が低い」と指摘した。
「人々がAIに対して抱いている恐怖のほとんどは、億万長者が話しているような恐怖ではありません」とアデルスタイン氏はフォーチュン誌に語った。 「人々は、実存のリスクよりも、詐欺、偏見、失業など、当面の被害を心配しています。」
彼は、裕福な寄付者に言及することは完全に的外れだと主張する。
「人工知能には非常に深刻なリスクが存在します」と彼は言う。 「AI開発者ですら、AIが人類を滅ぼす可能性は数パーセントしかないと考えている。一部の富裕層がAIが深刻なリスクであることに同意しているという事実は、AIに反対する議論にはならない。」
アデルスタイン氏にとって、長期主義は遠い未来に対する宗教的な執着ではなく、世界的なリスクを整理するための実践的な枠組みである。
「私たちは深刻な核および生物学的リスクに直面する非常に高度なAIを開発していますが、世界はまだその準備ができていません」と彼は言いました。 「長期主義は、これを防ぐためにもっと行動する必要があると言っています。」
同氏はまた、EAが準宗教運動と化したという非難も一蹴した。
「利他主義を効果的に実践し、年間5万人の命を救うことに専念するカルトを見たいです」と彼は笑いながら語った。 「それは一種のカルトに違いない。」
