AGI（汎用人工知能）構想批判

「AGI（汎用人工知能）」というものが構想されているらしい。ただ、これは定義が曖昧で論破不可能、ゴールは常に修正されるという、陰謀論に似た構造を持つ話なのだという。
MIT TECHNOLOGY REVIEWにこの「AGI」についての記事が出ているが、冒頭から「うますぎる話」と手厳しい。
記事によると、AGIは人間の脳にできることなら、ほぼ何でもできるとされる、近未来の仮想的なテクノロジーだそうで、さすがに僕も懐疑的になる。
記事の全体の論調としてやや揶揄気味なのが気に入らないが、どうやらこのAGIは理論ではなく、ほぼナラティブ化して語られているようで、記事では「テクノ・ユートピア（またはテクノ・ディストピア、どちらを信じるかはあなた次第）」的な熱に浮かされた夢と言い切っている。
記事自体が有料記事であるほか、内容がやや精細すぎるため、あえて深入りしないでおくが、何でも（事実であっても）ナラティブ化してしまうと危険なのである。

先にAGIを批判する記事を一つ紹介したが、Forbesにも関連する記事が出ている。
AGIは定義上、最高の自律性を意味する。どういうことかというと、人間ができることすべてを実行できるため、人間をループに入れる必要はないとされているためらしい。
だが、記事の著者によると「AIのパラドックス」というものが存在するという。予測AIは生成AIよりも自律性が高いそうで、生成AIは、重要な人間のタスクを引き受けるように位置づけられており、コンピューターが常時人間の監視なしに動作するには高いレベルのパフォーマンスが必要となる一方、より寛容な機能を引き受けることで、多くの予測AIプロジェクトは、最大規模の業務機能全体で完全な自律性の莫大な価値を獲得できるというのである。
つまるところ、生成AIは人間のタスクを引き受けることを意図して作られているため、非常に人間らしく見えるにもかかわらず、一般的に各ステップと各出力で人間の監視を必要とするので、自律性が低いということになる。

記事では、おそらくこちらが本題だと思うのだが、AIの誇大宣伝が批判されている。著者によると、AIの誇大宣伝は非現実的な自律性を約束するが、AIの優秀さをその潜在的な自律性の度合いとして見ることで、実現不可能な自律性を約束するとき、AI の約束を誇大宣伝として識別できるという。
実際、AI企業の誇大宣伝もさることながら、AI活用推進派も反対派も、AIに夢を見すぎている気がする。どちらも根底にあるのは「AI万能仮説」で、AIが人に取って代わるのをポジティブに捉えるか、ネガティブに捉えるかで衝突している気がするのである。その過程で著作権問題などが出てくるが、これが純粋に権利侵害の問題提起ではなく、既得権益の保護に見えてしまう部分がある。このあたりはフェアユース概念が根底にあるが、その部分を日本人は見落としていて（日本の著作権にはないため）、どちらかというと感情的な発言になり、議論を促進させず対立を生んでしまっている。