GlacisのCTOであり、共同創設者であるRohit Tatacharです。
Microsoft Azureのベテランエンジニアであり、製品リーダーであるRohit Tatacharは、多くの企業が本番環境で完全に監視または制御できないAIシステムを構築していることを確認しました。
シアトルスタートアップの新しい役割で、彼はこれについて何かをしています。
Tatacharは現在、AI行動の改ざん防止記録を構築するGlacisの共同創設者でありCTOです。 CEO Joe Braidwoodはこれを「エンタープライズAIのための飛行記録装置」と呼びました。 GlacisがAIエージェントを監視および制御するための新しいオープンソースツールをリリースし、彼の登場が行われました。
2025年11月にGeekWireで最初に取り上げられたGlacisは、Braidwoodとワシントン大学の精神科医であり、兼任の教授であるJennifer Shannon博士が始めました。
会社は難しい教訓に基づいて成長しました。 AIベースのメンタルヘルスツールであるBraidwoodの以前のスタートアップであるYaraは、脆弱なユーザーとの長時間の会話中にモデルが意図した動作から外れることに気づき、閉鎖しなければなりませんでした。
彼がLinkedInに閉鎖について書いた後、規制当局、臨床医、エンジニア、保険管理者は同じ観察に達しました。 AIシステムが決定を下したときに安全制御が実際に機能しているかどうかを独立して確認できる人は誰もいません。
それがグラシスの炎だった。
仕組み：Arbiterというスタートアップのコア製品は、すべてのAI推論呼び出しのパスにあり、入力、実行された安全チェック、および最終出力の署名付き記録を生成します。
記録は事後に変更することはできません。大規模に Glacis が Witness Network と呼ぶシステムは、これらの記録を監査可能な追跡として公証します。
お客様は、介入なしに観察する「シャドウモード」でシステムを実行したり、AIの動作を積極的に制限する試行モードでシステムを実行したりできます。
Glacis共同創業者のJoe Braidwood（左）とJennifer Shannon。 (グラシス写真)
Glacisの最高医療責任者であるShannon氏は、医療分野において特にリスクが高いと述べた。現職の子供の精神科医として、彼女は自分が一度もしたことのない薬物処方を操作することを含む、AIベースの周辺書記官が臨床記録から内容を幻覚させるのを見ました。
「私はAIモデルがどのように決定を下したのか、すべてのステップを振り返りたい」と彼女は言いました。 「インフラがなければ、誰が責任を負うべきでしょうか？誰もAIを訴えません。まさに私です」
基本的な課題：Tatacharは、ほぼ19年にわたって2回にわたってMicrosoftに勤務し、最近はエンタープライズAIアプリケーションとエージェントを構築およびデプロイするためのプラットフォームであるMicrosoft Foundryチームのシニア製品マネージャーとして勤務しました。
彼は、企業がツールを構築し、概念証明を実行しているが、システムが実行する作業を説明または確認できないため、AIを生産に適用することが困難であると述べた。
問題には3つの次元があります。顧客インフラストラクチャの基本状態、モデル動作、および基本モデルが正常に動作しても、システムが顧客が意図したものとは異なる動作をする、いわゆる「意図ドリフト」です。
Glacis は、3 つすべての展開を監視します。 Tatacharは、「これら3つを融合しなければ、顧客は実際に何が起こったのかを実際に見ることができます」と述べました。
新しいリリース：Glacisは、さまざまな脆弱性カテゴリにわたってAIシステムを自動的に攻撃し、修正を作成し、その効果を確認するオープンソースツールであるAuto Red Teamをリリースします。
また、当社は、組織が運用に立証可能なAI安全を構築するためのフレームワークを提供するために「ランタイム信頼に対する観察可能な検証証拠」と呼ぶ標準であるOVERT 1.0を発表しています。
今回のリリースは、AIエージェントのセキュリティが不安定な瞬間に行われました。オープンソースのAIエージェントフレームワークであるOpenClawは、2025年後半にリリースされてから数十万人の開発者を集めましたが、採用のスピードはセキュリティアーキテクチャを上回っています。
CrowdStrikeやCiscoを含む主要なサイバーセキュリティ企業は、フレームワークのセキュリティ脆弱性を警告する分析を発表しました。 Braidwoodは、これは展開前にテストするのではなく、実行時に安全制御を実行できるインフラストラクチャの必要性を示していると述べました。
目標市場：会社はヘルスケア、フィンテック、保険の分野の顧客に焦点を当てています。
今年初め、JP Morgan医療会議で2件のパイロット契約を締結し、現在3件がさらに進行中です。 Braidwoodは、同社は医療サービスをエントリポイントとして見ていますが、問題は最終的にAIの展開に普遍的な問題であると考えています。
今週の新しい開発：Glacisはまた、毎月最大10,000のAIイベントのための赤いチーム構成、施行、および暗号化証明を含む月49ドルのスタータープランの待機リストを公開しています。 499ドルのプロクラスには最大100,000のイベントが含まれています。
Braidwoodは、この動きは、企業がこれまでに協力してきた規制対象企業やデザインパートナーを超えて技術にアクセスできるように意図的に切り替えたものだと述べた。
より広い環境：AI観測可能性とセキュリティは急成長する市場です。資金豊富なスタートアップと大企業は、エンタープライズAIのためのランタイムモニタリングとガードレールを提供しています。
Braidwoodは、Glacisが暗号証明の可能性に重点を置いて差別化されることを明らかにした。単に問題を検出するのではなく、安全管理が実行される改ざん防止の証拠を作成することで、企業は保険の適用範囲を交渉し、規制当局を満たすのに役立つ可能性があると述べた。
資金調達：Glacisは、Geoff RalstonのSafe Artificial Intelligence Fund、Mighty Capital、Sourdough Ventures、AI2 Incubatorを含む投資家のグループから575,000ドルを集めました。
また、CloudflareのLaunchpadプログラムとPlug and Playの3番目のシアトルアクセラレータグループの一部でもあります。 Braidwoodは、同社が今年末にシードラウンドを終了することを望んでいると述べた。
チーム：Glacisには3人の共同創設者と2人のエンジニアを含む5人の従業員がいます。
Tatacharは、同社の6番目の「従業員」がVantaを介してSOC 2コンプライアンスタスクを処理するAIエージェントになると述べた。チームはRustでコア暗号化コードを作成し、ワークフロー全体でClaude、Codex、およびChatGPTを使用します。
Braidwoodは、「私たちは100人の従業員の会社です」と冗談を言いました。 「そのうちの5つは本物で、残りはクラウドや机の上にあります」
