AIは仕事や市場を変えるだけでなく、システムが依存する情報を静かに腐敗させるとJoseph Stiglitzは言います。大規模な言語モデル（LLM）が私たちの冷笑的なRedditのコメントと極端なフォーラムで大きな周辺の声を掻き取りながら、ノーベル賞受賞者はすべてがデータ中心に見えますが、基本データはますます「ゴミ」になる世界について警告します。
エコノミストはフォーチュンとのインタビューで「AIの場合、さらに深刻な問題があると思う」と述べた。 「私たちは労働市場だけに問題があるのではなく、情報外部性と呼ぶことのもう一つの側面もあります」 Stiglitzはこれを単にGIGO（garbage in、garbage out）と説明します。
リスクは単に雇用を失うだけではありません。これは、予測市場から金融モデル、政治的議論まで、現実を解釈するために使用するシステムと真実の間のフィードバックループが壊れていることです。本質的に、AIは受信する入力と同じくらいスマートであり、不正確な情報を傷つけ続けると、出力は吸収された情報と同じくらい歪みます。
彼の見解によると、今日のモデルは間違った取引に基づいて構築されています。つまり、ジャーナリズム、研究、オンラインチャットを貪欲に掻き取りながら、まず高品質の知識を生産する機関自体を毀損することです。その結果、人々はAIによって永続されるオンライン調査によって動く世界になると彼は恐れている。 「ゴーストGDP」を宣伝するCitrini Researchの論文や、Matt ShumerのウイルスAI終末エッセイによって引き起こされた市場の低迷について考えてください。実際の現実に基づいたものではありません。
AIは必要なソースから「情報を盗んでいる」
それにもかかわらず、スティグリッツはAIが新しい品質の情報を生成する関心も能力もないと述べた。 「そして、これらすべての結果は、情報全体の生態系が悪化するという実質的なリスクがあるということです。」
コメントスレッド、派手なミーム、簡単なコンテンツなど、最も安価な形式の情報が広がっている間に最高の情報ソースがゆっくりと廃棄されると、トレーニングデータは最も豊富で最も安価なコンテンツに傾きます。つまり、チャットボットがオンラインフォーラムから取り込んだ内容を圧倒的に逆流することになります。
これがオンラインへのAIの渇望が逆効果を生み出す最初の方法です。つまり、深刻な作業を維持するビジネスモデルを浸食し、当初存在するものの混合を切り替えることによって可能です。
産業規模のゴミ流入、ゴミ排出
2024年に彼の著書「The Road to Freedom: Economics and the Good Society」で情報エコシステムに言及したStiglitzは、GIGOの深刻な表現に再び言及しました。 「ゴミを処理して広げると、結局得られるのはゴミだけです。ゴミが入って来て、GIGOです」
このフレーズは古いかもしれませんが、Stiglitzはまだかなり関連性があると言います。 AIシステムは、私たちが提供するすべてを処理するのに優れていますが、知識と騒音を区別するのにはうまくいきません。 「重要な分野の情報エコシステムを改善する新しい技術の可能性にもかかわらず、私たちは実際にはより悪い状況に直面する可能性があるという実質的なリスクがあります」と彼は言いました。未確認の主張、プロット、人工芝キャンペーン、品質の低いコメントなど、ジャンクが多いほど、より洗練されたジャンクが表示されます。
彼は、ユーザーがその洗練を真に勘違いすると心配しています。 「彼らは、自分がやっていることがゴミを再処理する程度に過ぎないという事実を完全に悟らずに高度に加工された情報を得たと考えるでしょう」と彼は言いました。 「AI廃棄物処理は良い研究論文の1つを置き換えることはできません」
アンチホワイトペーパーが科学者よりも重要なとき
極端な視点が最も騒々しい場所であるインターネットの遠い隅ほど、そのリスクがより明確な場所はありません。特定のトピックに関する典型的なコミュニティ掲示板を考えてみましょう。インターネットの匿名性のおかげで、ユーザーは最新の政治的決定や文化的出来事について自分の意見を自由に表現することができます。その結果、これらのコーナーは誤った情報がより多く発生する領域であり、誤った情報を暴露する科学はほとんど言及されていない。ワクチンは完璧なケーススタディであるとStiglitzは言います。
「ワクチンの反対者は、ワクチンが効果があると言う人よりもインターネット上ではるかにアクティブです」と彼は言いました。科学者たちは実験を行い、いくつかの密度の高い論文を発表し、続行します。陰謀論者は毎日フォーラムとソーシャルプラットフォームにあふれています。
「したがって、「ここにワクチンテストがあり、効果があります…効能があります」と言う1つの重要な記事よりも、アンチサイドに関するより多くの記事があるかもしれません」とStiglitzは説明しました。 「今日、AIは1つの記事だけで十分だと言えますか？そうではありません。」
生の頻度と参加について訓練されたモデルでは、最大の声が勝ちます。より多くの情報に対するAIの渇望は、情熱的な少数を慎重な多数よりも押し付けることによって現実を歪めることができます。特に公共の利益が遅く、体系的な科学に対する信頼にかかっている領域ではさらにそうです。
情報不足による予測市場
Sanford Grossmanと共に1980年の論文で、Stiglitzは効率的な市場の核心にパラドックスがあると主張しました。つまり、価格が利用可能なすべての情報を完全に反映している場合、誰もその情報を収集するために支払うインセンティブがないため、市場を「効率的」にするまさにその情報は消えます。
彼は、AIと現代の予測市場がその物語をより大きな規模で再生していると述べています。彼はFortuneとのインタビューで、「あなたがGrossman-Stiglitzに言及したことが興味深いです。なぜなら、私は大学院生の一人であるMax VenturaとGrossman-StiglitzをAIに拡張する論文を書いて、情報エコシステムをどのように悪化させることができるのかについて以前に説明した結果です。
「Fortuneや他のすべてのメディアプロデューサーからデータを収集するAI企業に費用を支払うことを強制しないと」「彼らは収益を得ることができないので、良い情報エコシステムにつながる基本的な品質研究を実行しようとするインセンティブは弱まります。」その後、予測市場と取引アルゴリズムは、そのモデルの結果に依存して、真実への基本投資から賭けをさらに分離します。
同氏は「高品質の情報生産に対するインセンティブが弱まり、品質の低い情報生産能力が向上し、より多くのゴミが流入し、より多くのゴミが排出されている」と述べた。知識を集計するためのシステムは、最終的に最も安価で最も豊富な知識を増幅します。
Oracle以外の小物としてのAI
これらすべてにもかかわらず、StiglitzはAIを禁止または無視することは答えではないと思います。彼はそれを直接使用し、しっかりとした主張に対する滑らかな答えを混同することなく、学生に同じことをする方法を教えようとしています。
「私たちはAIを研究ツールとして使用する方法を教えようとしています」と彼は言いました。 「ご存知のように、私たちはAIから離れていません。私はAIを研究の一部として使用しています。したがって、AIは驚くべき研究ツールですが、思考を置き換えることはできず、分析を置き換えることもできません。
「ソースを見つけてアイデアを開発するのに役立ちます」と彼は付け加えました。 「でも結局は頑張らなければなりません」彼にとって、モデルの結果は「物事を少し異なって考え始めるのに役立つ実用的なツール」であり、変わらず受け入れられる評決ではありません。
それにもかかわらず、彼は情報の悪化が悪化するのを防ぐために政府レベルの介入が必要であると信じています。彼は「政府の規制がなければ、多くの関心分野で情報生態系がさらに悪化するリスクが少なくともかなり大きい」と警告した。
