仕事
AIの今後の影響に対するMatt ShumerのViral Xポストの後ろに隠された間違った仮定幸運
AIの影響者Matt Shumerは、過去24時間に5,500万回以上の視聴回数を記録したほとんどすべての知識作業を妨げ、最終的に自動化できるAIの可能性についてX用のウイルスブログを作成しました。Shumerの5,000ワードエッセイは確かに心を捕まえました。息をのむような口調で書かれたこのブログは、友人や家族に彼らの仕事がどのように急激に逆転するのかについての警告で構成されています。 （FortuneはShumerの投稿を修正したバージョンをコメントとして掲載しました。）「2月5日、2つの主要なAI研究所が同日、OpenAIのGPT-5.3 CodexとAnthropicのOpus 4.6という新しいモデルをリリースしました」と彼は書いた。 「そして何かカチッと音がした。灯りスイッチではなく…水があなたの周りから湧き上がり、今あなたの胸にいることに気づいた瞬間にもっと近い」Shumerはコーダーが他のすべての職業の炭鉱にあるカナリアだと言います。 「過去1年間、技術従事者がAIが「有用なツール」から「私よりも仕事を上手にする」姿に変わることを見守った経験は、他の誰もがすぐに持つことになる経験になるでしょう」と彼は言いました。 「法律、金融、医学、会計、コンサルティング、執筆、デザイン、分析、カスタマーサービス。10年以内ではありません。これらのシステムを構築する人は1〜5年です。一部の人は少ないと言っています。しかし、口コミが出ているという事実にもかかわらず、コーディングで起こったことは他の分野で起こるものの前編であり、決定的にこれがほんの数年で起こるというShumerの主張は私には間違っているようです。そして私は、AIが2029年までに知識作業を大々的に変化させると予測した本（AIマスタリング：超強力未来への生存ガイド）を書いた人としてこの記事を書いています。私は、コーディングを通じて見始めたプロセスの完全な自動化が、Shumerが主張するのと同じくらい早く他の分野に導入されるとは思わない。彼は方向的に正しいかもしれませんが、彼の手紙の恐ろしい口調は私に恐怖を助長し、主に間違った仮定に基づいているという印象を与えます。すべての知識作業はソフトウェア開発と同じではありません。Shumerは、コードがこれまでに自律エージェントの機能が最大の影響を及ぼした領域だった理由は、AI企業がこれに多くの関心を寄せていたためだと述べています。 Shumerは、これらの先駆的なモデル会社は自律ソフトウェア開発を自社のビジネスの核心と見なし、AIモデルが次世代AIモデルを構築するのに役立つと考えているので、そうしたと述べています。この点でAI会社の賭けは成果を上げているようです。過去1年間で、より良いモデルを生産する速度が著しく向上しました。そしてOpenAIとAnthropicは、最新のAIモデルのコードがほとんどAI自体によって書かれていると述べた。Shumerは、コーディングは主な指標ですが、コーディングで見られるのと同じパフォーマンスの向上が他の分野でも現れますが、時にはコーディングの改善より約1年遅くなると言います。 （Shumerは、AIモデル会社が最初にコーディングを最適化してから、最終的に他の領域のモデルを改善するためであることを示唆していますが、これらの遅延が存在する可能性がある理由について説得力のある説明を提供していません。） しかし、Shumerが言っていないのは、ソフトウェア開発の自動化の進展が他の分野よりも速いもう一つの理由です。つまり、コーディングには、他の領域には存在しない品質の定量的指標があるということです。プログラミングでコードが本当に悪い場合は、まったくコンパイルされません。不適切なコードは、AIコーディングエージェントが実行できるさまざまなユニットテストに失敗する可能性があります。 （Shumerは、今日のコーディングエージェントが時々ユニットテストの実行について嘘をついているという事実には言及していません。これは、自動化されたソフトウェア開発が完璧ではない多くの理由の1つです。）多くの開発者は、AIによって書かれたコードがこれらの基本的なテストに合格するのに十分な場合がありますが、それでも悪いと言っています。つまり、非効率的でエレガントではなく、最も重要なのは安全ではなく、それを使用する組織がサイバーセキュリティリスクにさらされることです。ただし、コーディングには、これらの問題のいくつかを解決するために自律AIエージェントを構築するためのいくつかの方法があります。モデルは、サイバーセキュリティの脆弱性に対して作成されたコードを確認したり、コードがどれほど効率的であるかを批判するサブエージェントを起動したりできます。ソフトウェアコードは仮想環境でテストできるため、AI会社が初期トレーニング後にAIモデルの動作を形成するために使用する強化学習（エージェントがゲームポイントなどの一部の報酬を最大化するために経験を通じて学習する）プロセスを自動化する方法がたくさんあります。これは、コーディングエージェントの改善が自動化された方法でスケールに合わせて実行できることを意味します。知識タスクの他の多くの分野で品質を評価することははるかに困難です。法律のコンパイラもなく、医療治療計画の単位テストもなく、マーケティングキャンペーンが消費者にテストされる前にどれだけ良いかについての決定的な指標もありません。他の分野では、「良い」ものが何であるかについて、専門の専門家から十分な量のデータを収集することははるかに困難です。 AI企業は、この種のデータの収集に問題があることに気づいています。これが彼らが現在Mercorと同じ会社に何百万ドルを支払っている理由です。 Mercorは、AI会社がモデルをよりよく訓練できるように、AIの結果に関するフィードバックを提供するのに役立つ会計士、金融専門家、弁護士、医師の採用に大きなお金を注いでいます。コーディング以外の専門的な作業でも最新のAIモデルが急速に発展する姿を示すベンチマークがあるのは事実だ。これらのうちの最高の一つは、OpenAIのGDPValベンチマークです。これは、フロンティアモデルが複雑な法律業務から製造、医療まで、さまざまな専門業務で人間の専門家と同等性を達成できることを示しています。これまで、先週リリースされたOpenAIとAntropicモデルの結果は出ていません。しかし、以前のモデルであるClaude Opus 4.5およびGPT-5.2では、モデルはさまざまな作業で人間の専門家と同等を達成し、さまざまな分野で人間の専門家を上回ります。それでは、これはShumerが正しいことを示唆していませんか？まあ、そんなに速くないです。多くの職業で「良いこと」がどのように見えるかは非常に主観的であることがわかりました。人間の専門家は、AI出力の評価について約71％しか同意しませんでした。 OpenAIでGDPValに使用される自動評価システムははるかに多様であり、評価に同意する割合はわずか66％です。したがって、プロフェッショナルな作業でAIがどれほど良いかについての見出しの数値は、誤差の範囲が広くなる可能性があります。企業には安定性、ガバナンス、監査の可能性が必要です。この違いは、企業が完全に自動化されたワークフローを展開するのを妨げる要因の1つです。 AIモデル自体の出力にのみ欠陥がある可能性はありません。 GDPValベンチマークが示すように、多くの専門的なコンテキストで自動化されたユニットテストに対応するタスクは、3分の1の確率で誤った結果を生成する可能性があります。ほとんどの企業は、3分の1の場合に品質の低い作業が出荷される可能性を許容できません。リスクが大きすぎます。時々、危険は単なる評判にすぎません。他の場合は、即時の収益損失を意味する可能性があります。しかし、多くの専門的な仕事では、誤った決定の結果ははるかに深刻になる可能性があります。つまり、専門的制裁、訴訟、免許の喪失、保険の喪失、さらには身体的傷害および死亡のリスクまでもたらされます。時には多くの人に影響を与えます。さらに、自動化された出力を確認するために人間に直接参加させることは問題になります。今日のAIモデルは本当に良くなっています。幻覚はあまり頻繁に起こりません。しかし、それは問題をさらに悪化させるだけです。 AIによって発生するエラーの頻度が減少し、人間のレビュー担当者は安住します。 AIエラーを見つけるのが難しくなります。 AIは自信を持って間違えることができ、フォームは完璧ですが、内容が不足している結果を提示するのに最適です。これは、人間が境界レベルを調整するために使用するいくつかの代理基準をバイパスします。 AIモデルは、同じ作業で人間が失敗する方法とは異なる方法で失敗することが多いため、AIによって生成されたエラーを防ぐことはより困難です。これらすべての理由により、より専門的な分野のためにソフトウェア開発の自動化されたユニットテストに対応する機能が開発されるまで、多くの知識作業コンテキストで自動化されたAIワークフローを展開することはほとんどの企業にとって危険すぎるでしょう。 AIは、多くの場合、人間の知識労働者の仕事を完全に自動化するのではなく、アシスタントや副操縦士として残ります。また、自動化ソフトウェア開発者が観察した種類の自動化が他のカテゴリーの知識作業では発生しないような他の理由もあります。多くの場合、企業はAIエージェントに自動化されたワークフローを実行するために必要なツールとデータシステムへのアクセスを許可できません。これまでAI自動化を最も熱心に促進した人は、自分で働く開発者であるか、AIベースのスタートアップのために働く開発者であったということは注目に値します。これらのソフトウェアコーダーは、従来のシステムと技術負債のために制約を受けないことが多く、ナビゲーションするガバナンスやコンプライアンスシステムが多くないことがよくあります。大規模な組織では、現在のデータソースとソフトウェアツールを一緒にリンクする方法が不足していることがよくあります。他の場合には、セキュリティリスクとガバナンスの懸念により、大企業、特に銀行、金融、法律、医療などの規制部門の大企業は、結果が信頼でき、結果を監視、管理、監査するプロセスがあるという徹底的な保証なしに自動化を消すことがあります。これを行うシステムは現在原始的です。はるかに成熟して強力になるまで、企業はビジネスにとって重要であるか規制された成果物の生産を完全に自動化することを期待しないでください。批評家はShumerがLLMの失敗に対して率直ではないと言います。シューマーの分析が間違っていると思う人は私だけではありません。今日の大規模な言語モデルの主要な懐疑論者の一人となったニューヨーク大学の認知科学名誉教授、Gary...
