Glacis の共同創設者、ジョー ブレイドウッド (左) とジェニファー シャノン。 (メガネの写真)
水曜日、ホワイトハウスが州レベルのAI規制に異議を唱え、あるいは阻止するよう連邦機関に指示する大統領令を準備しているとの報道が浮上した。
シアトルの起業家ジョー・ブレイドウッド氏は、このニュースを大きなチャンスと捉えている。
Braidwood 氏は、企業が AI の安全対策が意図したとおりに実装されていることを証明するためのソフトウェアを構築する AI2 インキュベーターの支援を受ける新しいスタートアップ企業 Glacis の CEO 兼共同創設者です。 Glacis は、あらゆる AI の決定に対して改ざん防止の「領収書」を生成し、企業が安全システムが実際に実装されていることを証明できるようにします。
「エンタープライズ AI 用のフライト レコーダーと考えてください」とブレイドウッド氏は言いました。
ブレイドウッド氏は、AIに関する国内法を阻止するというホワイトハウスの命令により、Glacisは設立間もない新興企業から「インフラ需要」に変わったと述べた。司法省が AI 規則を可決した州を告訴している環境では、中立的でプラットフォームに依存しない信頼層がますます重要になる可能性があります。
Glacis の起源は規制の複雑さに根ざしています。
長年テクノロジーマーケティングのリーダーとして活躍してきたブレイドウッド氏は、AIを活用してメンタルヘルスを改善することを目的とした自身のスタートアップ「ヤラ」を最近閉鎖した。同氏は、AI治療を「事実上保険不可能」にするイリノイ州の規制を挙げた。
その後ネット上で広まった LinkedIn への投稿の中で、Braidwood 氏は Yara をシャットダウンし、開発した一連の安全プロンプトをオープンソース化するという自身の決定について説明しました。
同氏は、AIが不十分であるだけでなく、深いトラウマや自殺願望に直面している人々と交流する際にAIが「危険」になることに気づき、ヤラ社を閉鎖したと書いている。同氏は、この経験は「どこに境界線があるべきか」、そして高リスクのAIカテゴリーに取り組む新興企業が、管理が難しい可能性のある負債や規制の圧力にどのように直面するかを示したと述べた。
この投稿の後、規制当局、臨床医、エンジニア、創業者、保険会社幹部から連絡がありました。多くの人が同じ問題を指摘しています。問題は、AI システムが意思決定を行う際に、安全政策が実際に実施されているかどうかを誰も独自に検証できないことです。
その透明感がグラシスの種となった。
AI モデルが質問に回答するかアクションを実行するたびに、Glacis は入力、実行された安全性チェック、および最終決定を示す署名付きレコードを作成します。レコードは不変であり、作成にかかる時間は 50 ミリ秒未満です。規制当局や保険会社は個人データを見ることなくこれらの領収書を確認することができ、これにより保険会社は最終的にAIシステムが規則を遵守していることを証明できるようになるだろうとブレイドウッド氏は述べた。
ブレイドウッド氏は、精神科医でワシントン大学非常勤教授のジェニファー・シャノン博士とGlacisを共同設立した。
同社は現在、nVoq を含むデジタルヘルス顧客とプライベートベータを実施しており、ヘルスケア、フィンテック、保険分野をターゲットとしています。これは Cloudflare Launchpad プログラムの一部でもあります。
Braidwood 氏は以前、Vektor Medical の最高戦略責任者を務めていました。また、ソーシャル TV プラットフォーム Scener の共同設立者であり、SwiftKey の最高マーケティング責任者も務めました。
シャノンは20年近く精神科医として働いています。彼女は Cognoa のメディカル ディレクターでもあり、米国児童青年精神医学アカデミーの AI リソース委員会の委員も務めています。
