Tag: AnthropicOpenAIの不和と国防総省の紛争はAIの安全性に関するより深い問題を明らかにします幸運

AIレポーターSharon Goldmanと一緒にEye on AIへようこそ。この版では、トランプが中間調査を控えてAIデータセンターに問題があります...AIが税金を申告すると信じてはいけません... AnthropicのAIツールClaudeは、激しい不和の中でイランでのアメリカキャンペーンの核心です。 AI安全に関する議論は、しばしば技術自体、つまりモデルがどれほど強力になるか、またはモデルが引き起こす可能性のあるリスクに焦点を当てています。しかし、今週のAnthropic、OpenAI、Pentagonが関連する紛争は、より深い問題を指摘しています。 AIの将来への力は、これらのシステムの構築、展開、および使用方法を決定する少数の企業リーダーと政府の官僚の手に集中しています。 長年にわたり、業界の批評家は、強力なAIシステムの開発が政府と緊密に協力している少数の企業に集中し、システムを運営する人々のインセンティブと競争に基づいてシステムの安全性が左右される「産業消臭」のリスクについて警告してきました。たとえば、2023年にヨシュア・ベンジオ（Yoshua Bengio）の研究者は、AI技術がいくつかの企業によって管理される可能性がこの技術による現実的なリスクの背後にある「2番目の問題」と述べました。 したがって、Amodeiが金曜日に従業員に書いた流出したメモで、Anthropic CEO Dario AmodeiがOpenAI CEO Sam Altmanに向かって表現した軽蔑について昨日読むことは特に安心できません。 AnthropicのSlackを介してすべての従業員に送信されたと思われるAmodeiの怒りの対応は、OpenAIが国防省にAIを提供する契約を発表し、Pete Hegseth戦争大臣がAnthropicが同様の契約を締結しなかったことについて「サプライチェーンのリスク」を宣言したと述べた。 AmodeiはOpenAIのメッセージを「嘘」、「安全劇場」、「彼らが実際に誰であるかを示す例」と呼び、Altmanのコメントの多くは「率直な嘘」と「ガスライティング」と説明しました。 AltmanはAnthropicで彼の公開写真を撮った。彼は最近、会社のスーパーボールキャンペーンの1つが「明らかに不正直だ」と言い、「二重発言」と非難した。そして、競争はより象徴的な方法で可視化されました。最近の首脳会談で、アルトマンとアモデイはナレンドラ・モディ首相との団体写真撮影のために手を握ることを拒否したという理由で口コミを出しました。 米国政府がAIを規制するための措置をほとんど取らず、AI安全のための国際的な努力がほとんど停滞し、世界は事実上業界の独自の規制に依存してきました。 OpenAIとAnthropicはどちらもそのパラダイムを公に支持し、自発的な安全の約束に署名しました。彼らはまた、時々、それらのモデルがリリースされる前に、互いのモデルに対して独立した安全性評価を実行するために協力しました。しかし、最も影響力のある2つのAI研究所のリーダーがお互いにうまくいかないように見え、それらの間の競争が激しすぎると、私たちは安全に関してどれだけの協力を現実的に期待できるかという不快な質問を提起します。 AIの安全に関して、競争の圧力はすでに両方の企業に影響を与えています。 Anthropicは最近、そのモデルを安全にする方法がまだわからないという理由だけで、一方的に新しいモデル開発を保留しないと責任ある拡張方針を改訂しました。そして、OpenAIは2024年の政策から軍事や戦争の使用に対する明示的な禁止を排除し、安全研究から製品開発に焦点を当て、2024年中にAnthropicに去った前のトップソートリーダーであるJohn LeikeがOpenAIで「安全文化とプロセスが輝く製品に後ろを占めました」とX。 現在の安全アプローチは、企業と政府が最終的に自制を持って行動すると仮定しています。しかし、AI安全の未来は、最終的に少数の強力なプレイヤーが競争、地政学、そして時々シリコンバレー連続極の圧力をどのように乗り越えるかによって決まります。 AIの運Leopold AschenbrennerのAIヘッジファンドが「超知能」競争を促進するために電力会社とビットコイン採掘業者に大きな投資をする理由 – Sharon Goldman OpenAIはCodexユーザーが160万人に急増し、コーディングツールをビジネス用AIエージェントの玄関口として位置づける –...