この記事の初出は2024年10月8日
生成AIが登場して以来、「AI悲観論」が現実味を増してきている。すなわち、AIは人間の仕事を奪うばかりか、そのうち人間を超える知能を持つので、最終的に人類を滅ぼしかねないというのだ。
「人類滅亡などSFにすぎない」と思われるかもしれないが、AI開発者や学者たちが警告する以上、楽観視はできない。
政治的混乱、絶え間ない戦争、感染症パンデミック、気候変動と、世界は混迷を深めているが、ここにAIの暴走が加われば、いったいどうなるのだろうか？
オープンAIの資金調達に次々と巨額資金が
AIの開発競争が激化している。
今年の5月、オープンAI、グーグル、マイクロソフトといったハイテックジャイアントは立て続けに「生成AI」の新サービス、新製品を送り出し、さらに開発を次の次元へと進めた。
「ChatGDP」で「生成AI」のリーディングカンパニーとなったオープンAIは、このほど、巨額の資金調達を行ったことを明らかにした。10月2日には66億ドル、10月3日には40億ドルの資金を調達したことを発表した。
2日発表の資金の出元は、主要金融機関。そして、3日発表の資金の出元はマイクロソフトや半導体大手エヌビディア、それに日本のソフトバンクグループなどであると、各メディアは報道した。
オープンAIが目指すのは、人間の知能を超える「スーパーインテリジェンス」である。いわゆる「AGI」（artificial general intelligence：汎用人工知能）、そして「ASI」（Artificial Super Intelligence：超人工知能）だ。
流れは「AGI」から「シンギュラリティ」へ
「AGI」（汎用人工知能）とは、あらゆるタスクを人間と同じかそれ以上にこなすことができる、これまでのAIの発展形である。いま使われているAIは、特定のタスクを処理する「ANI」（Artificial Narrow Intelligence：特化型人工知能）がほとんどであり、まだ、「AGI」は登場していない。
しかし、「ChatGPT」は、当初はテキストのみを生成するサービスだったが、やがて実際に人間と会話をしているかのような音声コミュニケーションが可能になったり、画像生成AIと連携して画像生成が可能になったりするなど、「AGI」に少しずつ近づいてきた。
となると、「AGI」に到達するのは時間の問題だろうと思われる。
「AGI」がさらに発展すれば「ASI」となる。AGIが自ら学習を重ねて進化し、人間の知能をはるかに超える能力を持ったものが「ASI」で、まさにスーパーインテリジェンスだ。つまり、「シンギュラリティ」（singularity：技術的特異点）がやってくるのは、意外にも早まりそうなのである。
AI開発は原子力と同じ監視・管理が必要
「シンギュラリティ」がやってきて、AIが自己改良を繰り返すスーパーインテリジェンスとなると、この世界はどうなるだろうか？
想像されているのは、AIの暴走を人間がコントロールできなくなる世界だ。つまり、政治、経済、金融、インフラ、通信、軍事などをAIが支配するようになり、人間は機械の奴隷になってしまうのだ。そして、いつか絶滅させられてしまうかもしれないのである。
映画『マトリックス』では、この世界はAIが人間を閉じ込めるためにつくった仮想現実だった。そして、本当の世界（リアル）ではAIと人類の熾烈な戦いが行われていた。また、映画『チャイルド・プレイ』では、AIが殺人人形をつくり出した。
これらはみなSFだが、いまやそうとは言えない現実が進んでいる。そのため、AI規制が世界中で議論されているが、いまだに「まさか、そんな世界になるわけがない」と言う人がほとんどある。
私は、現在の議論のなかで、「AI開発は原子力と同じようにIAEA（国際原子力機関）のような組織により監視、管理されなければならない」という意見に、共感している。AIは確かに暴走する危険性がある。よって、いまからなんらかのストッパーを検討しておかないと、手遅れになる可能性があるからだ。（つづく）
この続きは11月5日（火）発行の本紙（メルマガ・アプリ・ウェブサイト）に掲載します。
※本コラムは山田順の同名メールマガジンから本人の了承を得て転載しています。
山田順
ジャーナリスト・作家
1952年、神奈川県横浜市生まれ。
立教大学文学部卒業後、1976年光文社入社。「女性自身」編集部、「カッパブックス」編集部を経て、2002年「光文社ペーパーバックス」を創刊し編集長を務める。2010年からフリーランス。現在、作家、ジャーナリストとして取材・執筆活動をしながら、紙書籍と電子書籍の双方をプロデュース中。主な著書に「TBSザ・検証」（1996）、「出版大崩壊」（2011）、「資産フライト」（2011）、「中国の夢は100年たっても実現しない」（2014）、「円安亡国」（2015）など。近著に「米中冷戦 中国必敗の結末」（2019）。
