AIレポーターSharon Goldmanと一緒にEye on AIへようこそ。今回のエディションでは：OpenAI、スタートアップAstral買収、コーディング分野拡大… 14人のカトリック神学者がアントロピックを支持する説明会を連邦裁判所に提出しました。 Meta内部の悪意のあるAIエージェントがセキュリティ警告を引き起こす… AIがまだインドのIT産業を揺るがしていない理由。
私は、テキサス州オースティンのSXSWで毎日、音楽、食べ物、技術、文化的誇大広告がクラッシュするように、数日間、旋回風を吸って戻ってきました。すべての建物でライブ音楽が流れ、タコスとバーベキューが終わりがないようで、その間どこかで人々がAIの未来について話し合うために忙しく過ごす一種のイベントです。
私はイギリスのバイオテクノロジー会社Basecamp Researchが発表したパネルを進めるためにそこにいました。このスタートアップが2019年に新しい種と遺伝子を発見するために北極探検を始めたことを考慮すると、特に興味深いと思いました。共同創設者であるGlen GowersとOliver Vinceは、アイスランドの臨時実験室にインポートしたサンプルの3分の2が以前に記録されたことがないことを発見しました。その経験により、彼らはAIモデルが訓練できる「生物学的インターネット」の構築に投資することになりました。それは44億年の進化過程を捉え、生命の木全体の指導を描く努力、文字通り野心的な目標でした。
「ジョー遺伝子アトラス」
6年が過ぎた今でも、Basecamp Researchは依然として非常に野心的な領域を開拓しています。今週、同社は、1兆個の遺伝子規模の生物学的データを生成しモデリングすることを目指すイニシアチブである「Trillion Gene Atlas」を開始すると明らかにしました。同社によると、Anthropic、Ultima Genomics、PacBioと協力して開発され、NvidiaのAIインフラストラクチャに基づくこのプロジェクトは、世界中の何千ものサイトから1億種以上のゲノムデータを収集し、遺伝的多様性について知っている情報を100倍に拡張することを目指しています。現在までベンチャーキャピタルで8,500万ドルを集めたBasecampは、この最新計画を人間のゲノムプロジェクト（13年かかり、約30億ドルの費用がかかった画期的なシーケンシング作業）と比較しています。
これらの取り組みは、Basecampの広範なAI戦略に基づいています。今年初め、同社は増加する生物学的データセットを学習したEdenモデルをリリースしました。アイデアは、これらのモデルを使用して、人間が検出するのが難しい遺伝子と生態系全体のパターンを特定し、潜在的に薬物開発などの分野で発見を加速することです。
AIデータの様々な利害関係
ここではステーキが違います。科学のためのAIは、しばしば「善のためのAI」がどのような外観であるかについての最も明確な例として提示されます。がんを治療しますか？データをインポートします。新しい医薬品？ここにDNAがあります。
しかし、もちろん決してそれほど単純ではありません。
昨年、Basecamp Researchを長文の記事として扱ったFinancial Timesは、同社が探検家をカメルーン、コスタリカ、北極万年説、さらには海で最も遠い場所にあるポイントニモのような場所に派遣するにつれて、これらの努力が現代式植民主義を反映し、これを適切に共有せず、地域社会で価値を抽出した。
この緊張のため、Basecampは国とコミュニティにデータを補償する方法を再考しました。同社は、2023年からAIモデルを裏付ける遺伝データであるデジタルシーケンス情報の使用に基づいて、21カ国の60の組織にロイヤリティを支払ったと明らかにしました。この目的のために、各データサンプルのソースをタグ付けして追跡し、それがダウンストリーム出力にどれだけ貢献するかを測定し、それに応じて支払いを分配できるシステムを構築しました。実際、Basecampはトレーニングデータのソースを追跡し、価値が生み出されたときにその費用を支払うことを試みています。これは、幅広いAI産業がこれまでに実行するために努力しています。部分的には、部分的には、LLMが通常、何百万ものソースの所有権、同意、および個々の貢献を追跡することがほとんど不可能であるインターネット上でスクラップされた膨大で汚れたデータセットについてトレーニングを受けているためです。
しかし、データは最終的にバランス（trade-off）でもあります。私たちが喜んで提供することは私たちが得たいものに依存します。 Basecamp Researchの努力は、人々が医学や科学的発見を促進するのに役立つよりも無限のコンテンツストリームを生成するために使用されるデータをはるかに受け入れることができないことを示唆しています。結局のところ、質問は簡単です。それだけの価値はありますか？多くの人々の目標が病気を治すか、科学を発展させることであれば、答えは「はい」です。
AIの運
独占：Andreessen Horowitzは、AIエージェントのための「トレーニングジム」を構築するためにDeeptuneの4,300万ドル規模のシリーズAをサポートしています。
Goldman Sachsは、中小企業はAIを受け入れていますが、実際にAIを統合するのに堪能な企業は5人のうち1人未満だと言います。 – 作成者: Tristan Bove
AIエージェントはこのコーダーのデータベース全体を破壊しました。恐怖の話をする人はそれだけではありません – Beatrice Nolan
独占：OpenAIの最初のセキュリティ採用として設立されたAIサイバーセキュリティスタートアップRunSybilは、Khosla Venturesが主導して4000万ドルを集めました。 – 作成者: Sharon Goldman
ニュースの中のAI
OpenAIがスタートアップAstralを買収してコーディング分野に拡大 Bloombergは、OpenAIがPython開発者ツールに重点を置いたスタートアップであるAstralを買収する計画だと報じた。 Astralは、急成長しているAIベースのコーディング支援市場にさらに深く拡大しています。まだ終了していないこの取引は、AstralのチームとツールをOpenAIのCodexプラットフォーム（現在200万人以上の開発者が使用しており、今年初めにユーザーベースが3倍増加）に統合され、コード生成からソフトウェア構築、テスト、メンテナンスのためのより包括的なスイートに拡張されます。この動きは、エンタープライズ開発者を確保するために、アントロピック、グーグル、マイクロソフト、カーソルなどのハイエンドスタートアップを含む競合他社との競争が激化する中で行われ、AIベースのソフトウェア開発における立場の強化を目指す最近のOpenAI買収の継続です。
14人のカトリック神学者がアントロピックを支持する説明会を連邦裁判所に提出しました。ワシントン・ポスト（Washington Post）によると、軍のAIを使用して、アントロピックとアメリカ政府の間でますます大きくなる論争が珍しい方向に変わりました。カトリック神学者グループは、Claudeモデルが特に大量監視および自律武器にどのように使用できるかを制限する企業の努力を支持するために法的報告書を提出しました。学者たちは、命と人間の尊厳に関連する決定は人間の手に委ねなければならないと主張し、標的を選択して実行できるAIシステムが根本的に戦争の道徳的性格を変えると警告しました。今回の衝突は、AIの使用に対する制限を拒否し、最近契約業者が会社と協力することを禁止したアントロピックと国防部の間の緊張が高まって発生し、これによりアントロピックが修正憲法第1条に基づいて訴訟を提起した。
Meta内部の悪意のあるAIエージェントがセキュリティ警告を発します。 Meta社内の悪意のあるAIエージェントは、先週、機密性の高い企業やユーザーデータを従業員に約2時間適切なアクセスなしに公開するための不正な措置を講じた後、重大なセキュリティ事故を引き起こし、これは企業環境内で動作する自律AIシステムのリスクが高まっていることを明らかにしました。 The Informationによると、イベントはエンジニアが内部エージェントツールを使用して技術的な質問を分析したときに始まりました。その後、エージェントは承認なしにアドバイスを投稿し、他の従業員がそれに従い、制限されたシステムへのアクセスを許可する連鎖反応を引き起こしました。 Metaは最終的にデータは誤用されていないと述べたが、このエピソードは、OpenClawの口コミの成功と他のAIプレーヤーが同様の「エージェントハーネス」製品をリリースするなど、これらの使用がますます普及しているにもかかわらず、AIエージェントが独立して行動することを可能にするリスクを示しています。
AIがまだインドのIT業界を揺るがしていない理由 これはThe Economistの興味深い記事で、インドの3,150億ドル規模のITアウトソーシング産業が人間開発者よりもはるかに高速で安価にソフトウェアを生成できるAnhropicのClaudeのようなAIコーディングツールに対する懸念が大きくなる状況に直面している。懸念を呼び起こしています。しかし、これまでの影響は予想より均一ではなく、静かでした。 AIはクリーンな「グリーンフィールド」環境で生産性を向上させますが、複雑なレガシーシステム全体に展開することは依然として困難です。つまり、企業は依然としてアウトソーシングエンジニアに大きく依存しています。同時に、InfosysやTCSなどの企業はAIコンサルティングと戦略に拡大し、変化の恩恵を受けるように位置づけており、リーダーは2030年までに潜在的な3000億～4000億ドル規模の市場を予想しています。市場の不安と株価の下落にもかかわらず、売上は増加し続け、雇用は着実に維持されます。 AIは業界を再編成するかもしれませんが、AIの破壊は初期の予測よりも遅く、複雑で、それほど確実ではないことが証明されています。
EYE ON AI番号8,508
これは、AnthropicがこれまでにAIユーザーの最大規模の定性的研究の1つに対して行ったインタビューの数です。
ブログ記事では、同社はClaudeベースの「インタビューア」ツールを使用して、わずか1週間で159カ国から70の言語でインタビューを行ったと述べました。 AIが主導したインタビューでは、人々がAIから望むものと恐れているものは何か、次のモデルを使用して応答を分類し、パターンを抽出しました。
結果は広範に楽観的な感情を示し、最も一般的なユースケースは「プロフェッショナルな卓越性」（18.8％）であり、ユーザーはAIが日常的な作業を処理し、個人の成長と創造性への関心とともにより高い価値の仕事に集中できるようにしたいと考えています。同時に、回答者は、誤用や信頼性から広範な社会的リスクまで、さまざまな重複する懸念を表明し、身近な緊張感を強調しました。人々は生産性と機能の面で明確な利点を享受していますが、技術がどれだけ遠くまで行くことができるかについてはまだ不安になっています。
あなたはカレンダーを持っています
4月6～9日：HumanX、サンフランシスコ。
6月8～10日：Fortune Brainstorm Tech、コロラド州アスペン。ここで出席を申請してください。
7月7～10日：AI for Good Summit、スイスのジュネーブ。
8月4～6日：Ai4、ネバダ州ラスベガス
AIプレイブック：ソフトウェア開発の未来
ソフトウェア開発者は役に立たないでしょうか？ AIはコード作成能力がますます向上し、コーダー以外の人もソフトウェアゲームに参加できるようになり、一部のジュニアコーダーは役に立たなくなります。しかし、Fortune AIエディタJeremy Kahnが説明したように、AIはまだ幻覚を引き起こし、間違いを犯すので、経験豊富なコーダーは品質管理と信頼性に不可欠です。プレイブックを視聴してください。
