2024年のNeurIPS会議では、期待感が空気中に漂っていた。研究者、ベンチャーキャピタリスト、そして目を輝かせた学生たちが、人間レベル、あるいはそれ以上の知能を持つ機械、汎用人工知能（AGI）の到来を約束するデモの周りに群がっていた。特に、詩を書くこともコードのデバッグも同じようにこなせるように見える言語モデルのデモには、長蛇の列ができていた。しかし、目を見張るような展示や楽観的な発表の裏で、不安の種がまかれていた。

そして2025年後半、その不安は、ウィル・ダグラス・ヘブンによる新しい購読者限定の電子書籍で詳細に探求されている、はるかに複雑なもの、つまり本格的な陰謀論へと開花した。 「AGIはいかにして重大な陰謀論になったか」と題されたこの電子書籍は、かつて正当な科学的目標であったAGIの追求が、いかにして「業界全体を乗っ取った」とされるかを掘り下げている。

物語は、テクノロジー業界でよくあるように、シリコンバレーで始まる。人類の最大の課題を解決し、想像もできない富を解き放つ可能性を秘めたAGIの約束は、投資家や起業家にとって魅惑的な歌となった。数十億ドルがAIスタートアップに流れ込み、その多くがAGIへの進捗についてますます突飛な主張をするようになった。「シリコンバレーはAGIに毒された」とヘブンは書き、懐疑論が誇大広告の轟音にかき消される文化を描写している。

この電子書籍は、ベンチャーキャピタルによって煽られ、従順なメディアによって増幅されたAGIの絶え間ない追求が、自己永続的なサイクルを生み出したと主張している。企業は資金を привлечьするために過大な約束をするようにプレッシャーを感じ、現実と認識の間に乖離が生じた。この乖離は、約束されたブレークスルーが実現しないにつれて、特に不信感と疑念を助長した。

ヘブンが「偉大なAGI陰謀」と呼ぶものは、秘密の部屋で陰謀を企む影の人物のことではない。そうではなく、それはより陰湿な現象、つまり経済的インセンティブに突き動かされ、批判的思考の欠如によって煽られた集団的妄想なのだ。この電子書籍は、AI企業が自社の能力を誇張し、誤解を招く指標を使用し、技術の限界を軽視している例を指摘している。

「私たちは他の技術バブルで、このパターンを以前にも見てきました」と、電子書籍のインタビューを受けたスタンフォード大学のAI倫理学教授、アニヤ・シャルマ博士は言う。「誇大広告は現実から乖離し、人々は単に真実ではないことを信じ始めるのです。AGIの場合、社会の潜在的な変革について話しているので、リスクは特に高いのです。」

この「AGI陰謀」の結果は広範囲に及ぶ。それはAI研究の状況を歪め、より実用的で有益なAIの応用からリソースを奪っている。AI技術に対する国民の信頼を損ない、偏見、プライバシー、雇用の喪失に関する正当な懸念に対処することを困難にしている。そして、人々が超知能マシンの潜在的な危険性を心配するように、恐怖と不確実性の風潮を生み出している。

この電子書籍はまた、AGI陰謀を増幅するソーシャルメディアの役割についても探求している。オンラインフォーラムやソーシャルメディアプラットフォームは、誤った情報や陰謀論の温床となっており、ユーザーはAIの能力や意図に関する裏付けのない主張を共有している。これは、AGIを取り巻く不信感とパラノイアをさらに煽っている。

しかし、この電子書籍は、AGI陰謀を単に非合理的な恐怖の産物として片付けているわけではない。高度なAIの潜在的なリスクについて正当な懸念があり、これらの懸念に思慮深く責任ある方法で対処する必要があることを認めている。重要なのは、誇大広告から離れて、AIがもたらす現実世界の課題と機会に焦点を当てることだとヘブンは主張する。

AI業界がヘブンが「2025年の偉大なAI誇大広告修正」と呼ぶものを経ている今、技術の能力と限界を明確に理解することがこれまで以上に重要になっている。この電子書籍は、AGIの追求が理性、倫理、そして健全な懐疑心によって導かれるべきであるという、タイムリーで重要なリマインダーとして役立つ。AIの未来、そして人類の未来は、それにかかっているかもしれない。