水曜日にシアトルで開催されたWomen in Tech Regattaセッションのパネリスト。左から、ワシントン大学の司会者サラ・スチューダー（Sarah Studer）、ノードストローム（Nordstrom）、マリア・マーティン（Maria Martin）、アドビ（Adobe）ナンディータ・クリシュナン（Nandita Krishnan）、ハイスポット（Highspot）アンヤ・エデルスタイン（Anya Edelstein）。 (WiTレガッタの写真)
女性は、自動車の安全から医療診断まで、あらゆるものを決定するデータセットと決定から長い間除外されてきた。業界リーダーは、人工知能への急なアプローチがこれらのパターンを繰り返す危険があると警告しています。
これは今週シアトルで開かれたWomen in Tech Regattaの重要なメッセージであり、スピーカーは採用が加速するにつれてAIの開発に迅速かつ幅広く参加するように促しました。
シアトルに本社を置くHighspotの学習経験マネージャであるAnya Edelsteinは、水曜日のAIリーダーシップパネルで、「排除は時間の経過とともに深化し、検出するのがはるかに困難になる」と述べた。 「最初の決定を下す際に、会議室での視点を考慮しないと、後で変更するのが難しくなります。」
過去数年間で、研究者たちは、女性の腎不全誤診を含む偏向または歪んだデータセットについて訓練された機械学習モデルの失敗を軽減するように努めてきました。一方、世界中で女性は男性よりAIツールを使用する可能性が約20％低く、教育の格差がさらに深まります。
少なくとも技術分野ではAI性格の格差が減っているようです。企業が大規模なオートメーションに向けて競争しており、AnthropicとOpenAIが公開されているため、間違った情報とデータセキュリティに関する懸念が渦巻き、これは注目に値する変化です。
女性はAI戦略をリードしています – 慎重に
女性中心のリーダーシップネットワークであるチーフ（Chief）が今月初め発表した業界リーダー1,700人以上を対象に実施した世論調査によると、上級職のほとんどの女性（80％）は職場でAI戦略を推進しており、スピードより責任感のある採用を優先視することが示されています。
NordstromのプロダクトマネジメントディレクターであるMaria Martinは、これはAIツールと戦略をより速いペースで展開する必要がある企業の圧力とは対照的であると述べました。
マーティンは水曜日のパネルで「決定を下すことと結晶規模の間に滑走路が少ない」と述べた。 「先に早く参加することが重要です。」
調査に参加した女性Chiefグループの71％は、会社でAIリスクを最初に報告しました。
エデルシュタインは、「私たちがあらゆる段階で意図的に介入しないならば、偏見が浸透する機会があります」と述べた。
女性を部屋に入れる
資格のある女性をAIリーダーシップと意思決定空間にもたらす問題は、採用から始めることができます。採用担当者の少なくとも3分の2がAIを使用して候補者を選別します。このプロセスは、しばしば交差的に人種と性別の偏見を再現することが示されています。
参加者は水曜日にシアトルで開催されるWomen in Tech Regattaに参加します。 (WiT Regatta提供)
2024年、ワシントン大学の研究者らは、AI履歴書審査員が女性名より男性名を選択する確率が89%、黒人名より白人名を選択する確率が85%であることを発見しました。 1年後、UWは採用管理者がAIモデルの偏見を反映していることを発見しました。
女性と着色人種は、事務所に入る前に同化され、コードを変えなければならないという圧迫に直面します。たとえば、履歴書に人種や性別の中立的な名前を使用するなどです。長い間エンジニアリングリーダーであり、コンピュータサイエンティストとして活動してきたCynthia Teeは、雇用されたらサポートを受けるのに適した人を見つけることが重要だと述べました。
Tee氏は、業界のリーダーの多くが、職場の一般的な同盟に比べて、より大きな意図、実質的なリスク、およびコストを必要とするスポンサーモデルを実装できることを提案しています。
Teeは、職場のダイナミクスナビゲーションに関するパネルで「資格のある人々を促進するように主張し続ける」と述べました。 「採用パイプラインを通じて、より多様な人々を連れて行ってください。声が聞こえない人を呼び続けてください。」
AI会話は皆のためです
部分的に、業界の「ブラックボックス」設計により、AIの理解または使用に信頼障壁がある可能性があります。副業でアプリを構築するAdobeのデータサイエンティストNandita Krishnanは、毎週時間を分けて最新のニュースを読んで、毎日の作業自動化を試すことを提案します。
彼女は、EdelsteinとMartinと一緒にパネルで「バイブコーディングをするなら、ソフトウェアを安全に保護する方法でやってください」と話しました。 「AIシステムを構築する際、幻覚に陥りやすいです。LLMを接地するものを追加し、エージェントにこの事実や知識データベースを提供して脱線しないようにしてください。」
AI意思決定に参加することは技術的専門性に限定されません。 Edelsteinは、教育、医療、環境などAIを中心に価値を確立し、これに参加する業界リーダーや企業を見つけることを提案します。
多くの従業員が遅れることを恐れてAIを学んでいるが、好奇心がより良い結果をもたらすと付け加えた。
彼女は、「AIに対する意識を大きく変えることができれば、それがより多くの人々を会話に引き付ける最初のステップ」と話しました。
