AIは誰が制御すべきですか？強力な技術を発売する企業が運命の仲裁人ですか？それとも、その権限を政府に任せるべきですか？
米軍の近代化を目指す防衛産業アンドゥリル（Anduril）の創業者であるパルマー・ラッキー（Palmer Luckey）は、答えが簡単だと考える。政府に権力を引き渡すのだ。最近、ニューヨークのポストとのインタビューで、億万長者の創設者は、政府がAIをどのように使用するかを決定する主体が誰であるかについての急激な議論に重点を置いた。
億万長者の場合、特定の使用決定を下すのは政府、すなわち国民の役割です。それ以外の場合、技術企業は民主主義を危うくする可能性があります。
彼は「これが国民の手にあるという立場に固執しなければならない」と話した。 「防産業が法を超えなければならないと言う人、すなわち立法者と先出職指導者が誰と協力するのかについて話す以上に行動しなければならないと言う人は、事実上、この民主的実験を信じずに「企業政治」を望むと言うのです。
「すべての場合において、米国政府が私に売ることができ、売れないと言う人が誰でも他の立場をとることは、基本的に米国外交政策を事実上統制する企業役員に陥ることだ」
Luckeyの考えは、Anthropic CEO Dario Amodeiが、国防総省が大量監視のために会社のAIシステムを完全に使用するか、人間の監督なしで動作する完全自律武器に電力を供給することを拒否した。その結果、国防省はAI会社を「サプライチェーンリスク」に分類しました。これは一般的に中国に本社を置くHuaweiのような外国の敵対的な企業に適用される名前です。アモデーは、そのラベルは会社の事業に大きな影響を与えず、指定を反転させるために訴訟を提起すると述べた。それにもかかわらず、AIモデルとツールの使用について国防省と議論し続けています。
しかし、Amodeiは、AI安全を最優先と考える会社を作るために、共にOpenAIを離れたアントロピックの他の共同創設者と一緒に、国防省が要求する事項が善を超えたと主張している。 Amodeiは先週のプレスリリースで「これらの脅威は私たちの立場を変えません。我々は良心的に彼らの要求に応えません」
AnthropicはFortuneのコメント要求にすぐに答えなかった。
シリコンバレーvs。ワシントン
国防省やルッキーのような人物は、ユースケースを指示することが民間請負業者の手にあるとは思わず、代わりに政府の権限にあると主張しています。先月、アントロピックの合意が崩れた直後、Sam AltmanのOpenAIは、スタートアップのAIモデルとツールの使用を許可するために国防省と合意した。 Elon MuskのxAIはまた、国防省がAIを使用できるように契約を締結し、かつてアントロピックの独占パートナーシップに競争を追加しました。
Anthropicは国防省に反対する最初の技術会社ではありません。 Luckeyがインタビューで述べたように、Googleは、数千人の従業員が自律武器につながる可能性があるという恐れのために、プログラム参加に抗議した後、AIドローン映像分析に関連するProject Mavenで2018年に国防省を去った。
「あなたが経験した世界は、シリコンバレーの経営陣が米国大統領よりも多くの外交政策権力を持っていた世界でした」とLukeyは言いました。 「それは本当に、本当に危険です」
Luckeyの場合、AIの使用に関する最高レベルの決定は、シリコンバレーに属するのかワシントンに属するのかによって異なります。彼の見解は、ホワイトハウスに誰がいるかにかかわらず、技術企業、さらには民間部門が政府の外交政策決定に従う責任があるということです。
しかし、人類と国防の葛藤が激化しても、Amodeiは木曜日のプレスリリースで2つの政党がいくつかの共通点を見つけることができると述べた。 「人類学は違いよりも戦争部と共通点がはるかに多い」と彼は言いました。
