Tag: このようなニッチなAIスタートアップは国防省の秘密を保護しようとしています幸運

AI会社と米国の国防機関との関係は、今年初め、アントロピックが国防省と公に不快な戦いを繰り広げ、公に明らかになった。 Anthropicが自社のAI製品が国内の監視や自律兵器に電力を供給しないという保証を求めた後、国防省はすべての連邦機関および請負業者がAnthropicと取引することを全く禁止しました。同社は禁止措置を解除するために訴訟を提起しており、現在法廷で重大な戦いが行われている。 しかし、その背後には、米国の防衛と情報機関が秘密の維持の必要性を犠牲にすることなく技術を活用しようとしているので、それほど劇的ではありませんが、同じように重要なAI闘争が進んでいます。少数のAIインフラ会社は、当初、アメリカ政府がAIを安全に使用できるようにする複雑で珍しい作業を静かに行ってきました。 国防総省の何千ものチームで使用されているAsk Sageと呼ばれるAIプラットフォームの創設者であるNicolas Chaillanは、「現在の市場規模はおそらく20億ドルです」と述べています。このような選別会社が求める機会は、機密データに既成LLMを配布しようとする人が直面する極端なジレンマ事例に由来する。彼らは、AIの訓練の過程で間違った情報を間違って公開することなく、これらの強力なツールを使用する方法を理解しようとしています。 これらのAIインフラストラクチャ企業は、Google、xAI、OpenAI、Anthropicなどの大規模な競合他社と比較して、政府の業務に対するメディアの関心が少なくなります。最近の紛争が発生するまで、AnthropicのClaudeモデルは、国防省の機密ネットワークでの使用を承認された唯一のLLMの1つでした。しかし、この合意は、AIをホストするセキュリティソフトウェアプラットフォームと、クラウドサービスを運営する必須インフラインPalantirと、Amazon Web Services（AWS）を提供する他の2社との2024年契約を通じて可能になりました。大規模な言語モデルが米軍の最新、最も輝く戦闘機に少し似ていると想像してください。インフラ会社は、これらの新しい機械が残りの軍隊と通信し、安全に着陸するのに役立つラジオや滑走路などを提供しています。 元CIAアナリストであり、現在戦略および国際研究センターで国防技術を研究しているEmily Hardingは、「情報コミュニティ内でこの問題に深い関心を持っている人がおそらく100～200人ほどあるだろう」と述べました。 「私の考えでは、何百万人ものビジネスマンが大きなリスクを負うことなく、このような問題に直面するでしょう」 膨大な量の独占情報を持っている企業リーダーなら誰でもAI戦略でこの問題に直面したはずです。会社のすべてのビジネス上の重要なファイルについてChatGPTまたはClaudeのカスタムインスタンスをトレーニングすると想像してください。法律事務所の事例文書。製薬会社の内部研究報告書小売業者のリアルタイムサプライチェーンデータ投資銀行のリスクモデルまたは実写メモ。これらの指輪の訓練を受けたAIヘルパーは、会社の言語を流暢に話し、ファイルから収益性の高い接続を見つけることができます。しかし、奇妙な人、例えば競合他社がヘルパーに近づいた場合、どのような結果が出るのかを考えてみてください。 HardingはFortuneに「これは一種のCatch-22です」と言いました。 「十分に餌をやってください。あまりにも多くを知っています。 外部からの正しい要求によって、AIがトレーニング中に接触した機密ファイルの内容が漏洩する可能性があります。言い換えれば、LLMに会社の秘密をすべて教えることは、ビジネスが成長すると同時にビジネスが壊れる危険性があることを意味します。 秘密が国家安全保障に関する問題である場合 AI ヘルパーが秘密保持が国家安全保障の問題であり、違反が生命を危険にさらす可能性がある CIA で働いている場合、問題がどれほど悪化するかを考えてみましょう。 情報機関と軍隊は機密情報の分類に依存しています。人間のエージェントとアナリストは、漏れのリスクを減らすために厳密で知っておくべき基準に基づいて秘密にアクセスできます。 （米国防総省が秘密データのLLM教育を議論しているという最近の報告書が即時の批判を引き起こした理由の1つかもしれません。）それで、すべてのアナリストのAI助手が突然、機関のすべての秘密を知ったらどうなりますか？ 商業と政府の両方の顧客にサービスを提供するAIインフラストラクチャ会社であるUnstructuredのCEOであり、元CIAアナリストであるBrian Raymondは、「区画化は不可能です」と述べています。 Raymondは、例えば「私はイラクのアナリストだとしましょう」と説明しています。 「情報組織の観点から見ると、私は中国の軍事技術に関する秘密資産の報告書を読むことはありません。誰もが自分の水泳路にとどまっていて、これは素晴らしいセキュリティです。 そこで、AIの秘密問題を解決するために少数のAIインフラ会社が生まれました。これらの企業は、市販の大規模言語モデルを中心にソフトウェアとサービスの足場を構築し、組織が秘密を公開することなくAIを使用できるようにします。 この足場の中心には、検索拡張生成（RAG）という細かく調整された技術バージョンがあります。商用LLMは、チャットウィンドウにアップロードした文書を表示するたびにRAGバージョンを使用します。 Claudeのようなモデルはその文書から情報を検索し、質問に対する回答を生成する前に見つけた内容に基づいて回答を強化します。ただし、アップロードできるデータ量には制限があることがよくあります。そして、商用LLMに敏感な文書を提供することは、コンテンツが最終的に将来のトレーニングに使用されるか、プロバイダの観点から必ずしも隔離されていない一時キャッシュに格納される可能性があるため、依然として危険です。...