連邦判事は最近、人工知能を使用して武力行使報告書を作成している入国管理官を非難した。その広大な裁判所の判決には2文の脚注が含まれていた。これにより、シカゴ地域での移民強制捜査とその後の抗議活動に対する警察の対応が不正確になり、国民の信頼がさらに損なわれる可能性があるとの懸念が高まっている。
米国地方判事のサラ・エリス氏は、先週発行された223ページの意見書の脚注で、ChatGPTを使用して武力行使報告書を作成する行為は捜査員の信頼性を損なうものであり、「これらの報告書が不正確である可能性がある」と指摘した。彼女は、少なくとも1つのボディカメラビデオで見たものを説明し、エージェントがプログラムに短い説明文と数枚の画像を提供した後、ChatGPTに報告書の説明を編集するよう依頼した。
裁判官は、法執行機関の対応に関する公式説明とボディカメラの映像が示した内容との間に事実の相違があると指摘した。しかし専門家は、AIを利用して警察官の実際の経験を活用せず、警察官特有の視点に基づいた報告書を作成することはテクノロジーの最悪の利用法であり、精度とプライバシーに関して深刻な懸念を引き起こすと述べている。
警察官に求められる視点
全米の法執行機関は、警察官が精度、プライバシー、プロフェッショナリズムを維持しながら、ますます普及している AI テクノロジーを使用できるようにするガードレールを作成する方法を見つけるのに苦労しています。専門家らは、意見書で言及された事例はその課題を満たしていないと述べた。
「この男のやったことは、世界で最悪のことだ」と、超党派のシンクタンクである刑事司法評議会を通じて人工知能タスクフォースの委員を務めるサウスカロライナ大学の犯罪学助教授イアン・アダムスは語った。 「それが本当なら、ここで起こったことなら、たった一文と数枚の写真を提供するだけで、私たちのあらゆるアドバイスに反します。悪夢のようなシナリオです。」
国土安全保障省はコメントの要請に応じておらず、同省が職員によるAIの使用に関する指針や方針を持っているかどうかは不明だ。命令文で引用されたボディカメラの映像はまだ公開されていない。
アダムズ氏によると、このポリシーを施行している省庁はほとんどないが、施行している省庁では、法執行機関の決定を正当化する報告書、特に武力行使に関する報告書を作成する際に、予測AIの使用を禁止していることが多いという。武力行使が正当かどうかを検討する際、裁判所は、特定のシナリオにおける特定の警察官の視点に大きく依存して、客観的合理性の基準を確立している。
「これが正当な武力行使であったかどうかを判断するには、事件の具体的な説明と特定の警察官の具体的な考えが必要だ」とアダムズ氏は述べた。 「この一か八かの状況で、事実をでっち上げるようあなたが相手に懇願しているのですから、事実をでっち上げるようにはっきりと言う以外の最悪のシナリオです。」
プライバシーと証拠
AI の使用は、何が起こったのかを不正確に説明する AI 生成のレポートに対する懸念を引き起こすだけでなく、潜在的なプライバシーの懸念も引き起こします。
ニューヨーク大学法科大学院政策プロジェクトのエグゼクティブディレクター兼技術政策アドバイザーであるケイティ・キンゼイ氏は、もし命令を受けたエージェントがChatGPTのパブリックバージョンを使用していれば、画像をアップロードした瞬間に制御を失い、画像がパブリックドメインの一部となり、悪者に利用される可能性があることを理解できなかったであろうと述べた。
キンゼイ氏は、技術的な観点から見ると、ほとんどの部門が AI の周囲を飛行する飛行機を開発していると述べた。彼女は、新しいテクノロジーがすでに使用されるまで待つのは法執行機関の一般的なパターンであり、場合によっては、ガイドラインやポリシーを導入することについて話すのが間違いであると述べました。
「逆の方向に取り組む方が良い。リスクを理解し、その周囲にガードレールを構築することだ」とキンゼー氏は言う。 「ベストプラクティスを研究しなくても、役立つ成果はいくつかあります。透明性から始めることができます。」
キンゼー氏は、連邦法執行機関がこのテクノロジーの利用方法を検討している一方で、AIを使用して作成された警察の報告書や通信にラベルを付けることを義務付ける、ユタ州やカリフォルニア州で最近実施されたような政策を採用する可能性があると述べた。
新しいツールを慎重に使用する
警察がこの物語を作成するために使用した写真について、一部の専門家の間でその正確性について懸念の声が上がっている。
Axon などの人気テクノロジー企業は、インシデント レポートの作成を支援するボディ カメラとともに AI コンポーネントを提供し始めています。警察に販売される AI プログラムは閉鎖システムで動作し、ナラティブを生成するためにボディカメラからの音声を使用することに主に限定されています。これは、ビジュアルを使用しようとするプログラムは使用できるほど効果的ではないと同社が述べているためです。
ジョージ・ワシントン大学法科大学院のアンドリュー・ガスリー・ファーガソン法学教授は、「色、顔の表情、視覚的な構成要素を記述する方法はたくさんあります。AIの専門家に尋ねれば、異なるAIアプリケーション間で非常に異なる結果が返され、視覚的な構成要素が物事を複雑にしていると答えるでしょう」と語る。
「警察が予測分析を使用しても大丈夫なのかという専門的な疑問もあります。」さらに、「モデルが起こるべきだと考えていたことは、実際には起こっていない可能性がある。自分の行動を正当化するために法廷に持ち込まれることは望ましくない」と付け加えた。
