こんにちは、Eye on AI へようこそ…今回の内容: OpenAI と Microsoft の新しい契約…イーロン マスクが Grokipedia を立ち上げる…データ エンジニアは AI ワークロードに苦戦…AI ブラウザーはセキュリティ リスクですか?
この契約に基づき、新しい OpenAI グループ PBC は非営利 OpenAI Foundation の管理を維持することになります。 Microsoft との約 1 年にわたる交渉は、両社間に重大な緊張を引き起こしたと伝えられており、OpenAI が組織再編を完了する上で大きな障害となった。そして一見すると、マイクロソフトは自社の AI ラボから大幅な譲歩を引き出しているように見えます。
2019年以来OpenAIに130億ドル以上を投資してきたテクノロジー巨人は、OpenAIの株式の27％を所有することになる。 OpenAIの現在の評価額を考慮すると、Microsoftのポジションは約1,350億ドルの価値があることになる。また、汎用人工知能 (AGI) になるマイルストーンに達するすべてのモデルを含め、OpenAI テクノロジーへのアクセスを 2032 年まで維持します。モデルがこの閾値を通過するかどうかは、OpenAIが以前に、最も経済的に価値のある認知タスクを実行できる、または人間よりも優れたパフォーマンスを実行できるAIシステムとして公的に定義していたもので、今後は独立した専門家からなるパネルによって検証されることになる。
以前は、AGI に達した時期を判断できるのは OpenAI だけでしたが、AGI は、パートナーシップに基づく Microsoft の権利を終了または変更する可能性があるレバレッジ ポイントと考えられていました。この合意により緊張が高まり、MicrosoftはOpenAIが高性能AIモデルを道しるべとしてAGIを時期尚早に宣言する可能性があり、それが両社に重大な財務上および知的財産上の影響を与える可能性があると懸念した。つまり、この意思決定を行う独立委員会は Microsoft にとって勝利となるのです。
この契約により、Microsoft は単独で、またはサードパーティと協力して AGI を追求することも許可される一方、OpenAI にはその研究スキルやイノベーションの多くを共有することが求められます。新しい契約に基づき、MicrosoftはOpenAIのコンシューマー向けハードウェアや、「研究」とみなされるモデルのモデルの重みやコアアーキテクチャの詳細にはアクセスできないが、OpenAIの基盤となる研究手法やシステムのほとんどには引き続きアクセスできるようになる。 (OpenAI の実稼働モデルのこれらの重要な技術的詳細に対する権利は 2032 年まで残ります。)
それにもかかわらず、これにより Microsoft は、OpenAI のモデル トレーニング インフラストラクチャや最適化手法などを可視化できるとともに、OpenAI の研究手法から学んだことを活用して、その知識を独自の AGI モデルの開発に適用する機会も得られます。これをさらに複雑にする可能性があるのは、Microsoft と Anthropic とのパートナーシップの拡大であり、Claude は Microsoft 365 と Excel で利用できるようになりました。
Microsoft は、テクノロジーアナリストの Zeus Kerravala 氏が「マイクロソフト側の大幅な譲歩」と呼んで、OpenAI に対するクラウド独占権を放棄しました。しかし同氏は、同社がより重要なものと引き換えに、OpenAIからいくつかの重要な構造的譲歩を獲得したことにも言及した。
「これらの譲歩により、マイクロソフトの投資の持続可能性と価値が保証されます」と同氏はフォーチュン誌に語った。 「本質的に、マイクロソフトは、実現に苦労していたクラウド コンピューティングの独占を、技術的な確実性と長期的な IP アクセスと引き換えにしました。」
同社が第３・四半期決算を発表する前日には同社株価が２％上昇し、時価総額が４兆ドルを超えたため、投資家らもこれに同意したようだ。
OpenAI の規制上の勝利
OpenAIは再編後、SoftBank、Thrive、その他のベンチャーキャピタル企業を含む投資家が約束した資金の全額にアクセスできるようになった。この動きにより、OpenAI は将来的に追加の資金を調達することが容易になります。
カリフォルニア州司法長官のロブ・ボンタ氏はフォーチュンに対し、「私たちは慈善資産が本来の目的に使用されること、安全が最優先であること、そしてOpenAIがここカリフォルニアに残ることを保証するという約束を取り付けた」とフォーチュンに語った。その結果、ボンタ氏は自身の事務所がOpenAIの資本増強計画に反対するために法廷に訴えるつもりはないと述べた。
これは、OpenAIが「全人類に利益をもたらす」方法でAGIを開発するという中核的使命から逸脱し、AIの安全性よりも製品の提供を優先したと主張し、組織再編に反対運動をしていたいくつかの非営利団体にとって打撃となった。
これらの非営利団体は、この取引を阻止するよう司法長官事務所に働きかけた。擁護団体、非営利団体、一部の元OpenAI従業員、そしてOpenAIの共同創設者で商業競争相手となったイーロン・マスク氏は、さまざまな理由からこの組織再編に公に反対している。マスク氏は、この動きはOpenAIの最高経営責任者（CEO）サム・アルトマン氏と共同創設者のグレッグ・ブロックマン氏が最初に研究所設立のために数百万ドルを寄付した際に騙されたことの証拠だと主張した。この再編は、慈善的な公共目的を持つべき利益をOpenAIのベンチャーキャピタリスト、共同創設者、従業員の懐に流用する危険があると主張する人もいる。
OpenAIは、非営利のOpenAI Foundationが慈善目的で多額の助成金を提供することを約束することで、この反対を和らげようとしている。その中には、健康の改善、病気の治療、または潜在的に広範な雇用喪失を含むAIが引き起こす可能性のある混乱の一部に対する社会の回復力を高めることを目的としたプロジェクトへの、つい最近発表された250億ドルのコミットメントも含まれる。
それにもかかわらず、規制当局の承認が確保され、マイクロソフトの懸念が解消されたことで、OpenAI はついに数十億ドルの資本を持つ営利組織を手に入れた。そしてMicrosoftは、OpenAI提携において価値があると考えた資産のほとんどを維持しながら、株主にとっては棚ぼたとなる可能性のある多額の株式も獲得した。
ベアトリス・ノーラン
AIの運
オープンソースAIは「今や中国のゲーム」であり、米国とその同盟国にとっての問題である、とアンドリーセン・ホロウィッツのパートナーは語る。 — ベアトリス・ノーラン
AI が私たちのすべての仕事を奪うわけではないこと、そしてシリコンバレーはその根本的な間違いを正さなければならないことが今ではわかります。自動劇場は終わらせなければならない — ジョエル・フロン
クアルコムCEO、AIバブルに関して「誰もが勝つために戦っている」と警告、しかし誰が成功するかを判断するのは時期尚早 – ベアトリス・ノーラン
MicrosoftがOpenAIに130億ドル投資後、MicrosoftのAI責任者がChatGPTのようなエロチカ機能を非難:「これは非常に危険だ」 – サーシャ・ロゲルバーグ
EYE ON AI NEWSEY ON AI 研究
MIT の別の報告書では、AI のメリットは予測ほど明確ではない可能性があると述べています。今回はコーディングです。 Snowflake と共同で実施された新しい MIT Technology Review Insights レポートでは、生産性を向上させるために AI ツールが広く導入されているにもかかわらず、データ エンジニアの 77% がより高い作業負荷に直面していることがわかりました。 400 人のテクノロジー上級幹部を対象とした調査によると、組織の 83% がすでに AI ベースのデータ エンジニアリング ツールを導入している一方で、導入の最大の課題として 45% が統合の複雑さ、38% がレポート ツールの無秩序と断片化を挙げています。レポートによると、AI によって多くのデータ タスクが自動化される一方で、接続されていないシステムの普及により、個々のタスクは高速化されるものの、全体的なワークフローは遅くなるという生産性のパラドックスが生じています。データ エンジニアは現在、時間の 37% を AI 関連のプロジェクトに費やしています。これは2年前の19％から増加しており、2年以内にその割合は61％に達すると予想されている。
あなたはカレンダーを持っています
11 月 10 ～ 13 日: Web サミット、リスボン。
11 月 26 ～ 27 日: 世界 AI カンファレンス、ロンドン。
12 月 2 ～ 7 日: NeurIPS、サンディエゴ。
12 月 8 ～ 9 日: フォーチュン ブレインストーミング AI サンフランシスコ。ここから参加登録してください。
脳の食べ物
AI Web ブラウザにはセキュリティ リスクがありますか?先週、OpenAI が待望の Web ブラウザーをリリースした後、私は瞬間的なインジェクションに関連するリスクのいくつかについて書きました。当然のことながら、それ以来、より多くのセキュリティリスクが発生しています。セキュリティ企業 LayerX は、ChatGPT Atlas ブラウザに潜在的に重大な脆弱性を発見しました。この脆弱性により、攻撃者が ChatGPT メモリに悪意のあるコマンドを挿入できる可能性があります。ハッカーは、クロスサイト リクエスト フォージェリ (CSRF) 攻撃を使用して、ログイン ユーザーのセッションを悪用し、デバイスやブラウザ間で持続する隠された命令を埋め込むことができます。 ChatGPT が感染すると、ユーザーの知らないうちにこれらの命令が実行され、マルウェアが配布される可能性があります。 LayerX のテストでは、ChatGPT Atlas ブラウザが特に脆弱であることが判明し、テストしたフィッシング攻撃の約 5.8% のみをブロックし、これらの攻撃の約半分をブロックした Chrome や Edge よりもユーザーが最大 90% 多くさらされることになりました。サイバーセキュリティは、企業がセキュリティ上の欠陥を特定してパッチを適用するという、常にいたちごっこのようなものでした。しかし、セキュリティ リスクの規模を考えると、AI ブラウザが有用であるために必要なディープ システム アクセスを信頼するにはリスクが大きすぎるのではないかという疑問が生じます。
