Tag: ウォートンの研究でAI取引ボットが監視されていないときに自発的にカルテルを形成する原因となった人工的な愚かさが明らかになった

人工知能は放っておけば、金融市場の状況で広範な価格設定カルテルを形成するほど賢くて愚かです。今年初めにペンシルベニア大学ウォートン校と香港科技大学国家経済研究局のウェブサイトで発表された研究論文では、AIベースの取引エージェントが模擬市場にリリースされると、ボットが互いに共謀して集団利益を達成するために価格操作を行っていたことが判明した。この研究では、研究者は市場モデルでボットを解き放ちました。これは本質的に、実際の市場状況をシミュレートし、AI に市場価格データを解釈させるように設計されたコンピューター プログラムです。仮想マーケットメーカーは、モデル内のさまざまな変数に基づいて価格を設定します。これらの市場にはさまざまなレベルの「ノイズ」が存在する可能性があり、これは、異なる市場条件下での矛盾する情報と価格変動の量を表します。一部のボットは個人投資家のように行動するように訓練され、他のボットはヘッジファンドのように行動するように訓練されていましたが、多くの場合、マシンは明示的な指示なしに攻撃的な取引を集団的に拒否することで「広範な」価格操作行為を行っていました。価格誘発戦略を考慮したあるアルゴリズム モデルでは、AI エージェントは、十分に大きな市場の動きが非常に積極的な取引を引き起こすまで、シグナルに基づいて保守的に取引しました。強化学習を使用して訓練されたボットは、広範な攻撃的な取引が市場のボラティリティの増大につながる可能性があることを暗黙のうちに理解できるほど高度でした。別のモデルでは、過度のバイアスが排除され、リスクのある取引がマイナスの結果をもたらした場合には、その戦略を再び追求すべきではないことを内面化するように AI ボットがトレーニングされました。ボットは、より積極的な取引の方が収益性が高いように見える場合でも、「積極的」なやり方で保守的に取引し、研究が「人工的な愚かさ」と呼ぶような方法で集団的に行動した。「どちらのメカニズムも基本的に、攻撃的に行動しないというパターンに収束しており、長期的にはそれが彼らにとって良いことなのです」と研究共著者でウォートン大学の金融教授であるイテイ・ゴールドスタイン氏はフォーチュン誌に語った。金融規制当局は長年にわたり、市場における価格操作や共謀などの反競争的慣行に対処するために取り組んできた。しかし、小売業界では、特にアルゴリズムによる価格設定を使用する企業が厳しい監視の対象となっているため、AI の注目が高まっています。今月、AIベースの価格設定ツールを利用するインスタカートは、一部の顧客が配送会社のプラットフォーム上で同じ商品の異なる価格を閲覧するプログラムを終了すると発表した。これは、実験でインスタカートが食料品の約75％をさまざまな価格で提供していたことが判明したコンシューマー・レポートの分析に続くものだ。「証券取引委員会と金融市場規制当局の主な目標は、この種の安定性を維持することだけでなく、市場の競争力と市場の効率性を確保することでもある」と、ウォートン大学の金融教授で研究著者の一人であるウィンストン・ウェイ・ドウ氏はフォーチュン誌に語った。これを念頭に置いて、Dou 氏と 2 人の同僚は、高レベルまたは低レベルの「ノイズ」に基づいて、さまざまなシミュレートされた市場に取引エージェント ボットを導入することで、AI が金融市場でどのように機能するかを特定することに着手しました。攻撃的な取引行動を回避することを集団的かつ自発的に決定することで、ボットは最終的に「超競争的な利益」を達成しました。「彼らは、次善の取引行動が最適であると信じていた」とドゥー氏は言う。 「しかし、環境内のすべてのマシンが『最適な』方法で取引される場合、実際にはお互いを利用したくないため、全員が利益を得ることが判明しました。」簡単に言うと、ボットは皆利益を得ていたため、保守的な取引行動に疑問を抱くのをやめ、したがって互いに競争する行動をやめ、事実上のカルテルを形成しました。金融サービスにおけるAIの恐怖取引エージェントボットなどの金融サービス用の AI ツールは、金融市場への消費者の参加を増やし、投資家のアドバイザリーサービスにかかる時間と費用を節約できるため、ますます魅力的になってきています。ファイナンシャル・プランニングの非営利団体CFP理事会による2023年の調査によると、米国の投資家の3分の1近くが、AIベースの生成ツールからファイナンシャル・プランニングのアドバイスを受けることに抵抗はないと回答している。仮想通貨取引所MEXCが7月に発表した報告書によると、7万8000人のZ世代ユーザーのうち67％が前会計四半期に少なくとも1つのAIベースの取引ボットを起動したことが判明した。しかし、政府監査局（GAO）の金融市場・コミュニティ担当ディレクター、マイケル・クレメンツ氏によると、AI取引エージェントにはメリットがある一方で、リスクがないわけではないという。サイバーセキュリティや潜在的に偏った意思決定に関する懸念とは別に、これらの取引ボットは市場に大きな影響を与える可能性があります。「多くの AI モデルは同じデータでトレーニングされています」とクレメンツ氏はフォーチュンに語った。 「これらのプラットフォームの大手プロバイダーが少数しかない状況で AI 内で統合が行われる場合、多数の個人や企業が同時に売買する群集行動が発生する可能性があり、価格変動につながる可能性があります。」イングランド銀行金融政策委員会の外部委員であるジョナサン・ホール氏は昨年、AIボットが市場の回復力を損なう可能性のある「群れのような行動」を助長すると警告した。同氏はこのテクノロジーに「キルスイッチ」を導入し、人間による監視を強化することを提唱した。AI 価格設定ツールが規制上のギャップを明らかにするクレメンツ氏は、これまで多くの金融規制当局が確立されたルールや法律をAIに適用することができたと説明した。たとえば、「融資の決定がAIで行われるか紙と鉛筆で行われるかにかかわらず、ルールは同じに適用される」と同氏は述べた。SECなどの一部の政府機関は、異常な取引行為を検出するAIツールを開発することで火に油を注ぐことを選択している。「一方で、AIが異常なトランザクションを生み出す環境が存在する可能性がある」とクレメンツ氏は述べた。...