Tag: StiglitzはAIのインターネットコメントへの渇望は世界の情報エコシステムを低下させる可能性があると警告しています幸運

AIは仕事や市場を変えるだけでなく、システムが依存する情報を静かに腐敗させるとJoseph Stiglitzは言います。大規模な言語モデル（LLM）が私たちの冷笑的なRedditのコメントと極端なフォーラムで大きな周辺の声を掻き取りながら、ノーベル賞受賞者はすべてがデータ中心に見えますが、基本データはますます「ゴミ」になる世界について警告します。 エコノミストはフォーチュンとのインタビューで「AIの場合、さらに深刻な問題があると思う」と述べた。 「私たちは労働市場だけに問題があるのではなく、情報外部性と呼ぶことのもう一つの側面もあります」 Stiglitzはこれを単にGIGO（garbage in、garbage out）と説明します。 リスクは単に雇用を失うだけではありません。これは、予測市場から金融モデル、政治的議論まで、現実を解釈するために使用するシステムと真実の間のフィードバックループが壊れていることです。本質的に、AIは受信する入力と同じくらいスマートであり、不正確な情報を傷つけ続けると、出力は吸収された情報と同じくらい歪みます。 彼の見解によると、今日のモデルは間違った取引に基づいて構築されています。つまり、ジャーナリズム、研究、オンラインチャットを貪欲に掻き取りながら、まず高品質の知識を生産する機関自体を毀損することです。その結果、人々はAIによって永続されるオンライン調査によって動く世界になると彼は恐れている。 「ゴーストGDP」を宣伝するCitrini Researchの論文や、Matt ShumerのウイルスAI終末エッセイによって引き起こされた市場の低迷について考えてください。実際の現実に基づいたものではありません。 AIは必要なソースから「情報を盗んでいる」 それにもかかわらず、スティグリッツはAIが新しい品質の情報を生成する関心も能力もないと述べた。 「そして、これらすべての結果は、情報全体の生態系が悪化するという実質的なリスクがあるということです。」 コメントスレッド、派手なミーム、簡単なコンテンツなど、最も安価な形式の情報が広がっている間に最高の情報ソースがゆっくりと廃棄されると、トレーニングデータは最も豊富で最も安価なコンテンツに傾きます。つまり、チャットボットがオンラインフォーラムから取り込んだ内容を圧倒的に逆流することになります。 これがオンラインへのAIの渇望が逆効果を生み出す最初の方法です。つまり、深刻な作業を維持するビジネスモデルを浸食し、当初存在するものの混合を切り替えることによって可能です。 産業規模のゴミ流入、ゴミ排出 2024年に彼の著書「The Road to Freedom: Economics and the Good Society」で情報エコシステムに言及したStiglitzは、GIGOの深刻な表現に再び言及しました。 「ゴミを処理して広げると、結局得られるのはゴミだけです。ゴミが入って来て、GIGOです」 このフレーズは古いかもしれませんが、Stiglitzはまだかなり関連性があると言います。 AIシステムは、私たちが提供するすべてを処理するのに優れていますが、知識と騒音を区別するのにはうまくいきません。 「重要な分野の情報エコシステムを改善する新しい技術の可能性にもかかわらず、私たちは実際にはより悪い状況に直面する可能性があるという実質的なリスクがあります」と彼は言いました。未確認の主張、プロット、人工芝キャンペーン、品質の低いコメントなど、ジャンクが多いほど、より洗練されたジャンクが表示されます。 彼は、ユーザーがその洗練を真に勘違いすると心配しています。 「彼らは、自分がやっていることがゴミを再処理する程度に過ぎないという事実を完全に悟らずに高度に加工された情報を得たと考えるでしょう」と彼は言いました。...