この記事の初出は2024年10月8日
暴走に対する安全性確保よりビジネスを優先
ここで想起されるのが、昨年、オープンAIが「スーパーアライメント」という部門を立ち上げ、その後、それを廃止してしまったことだ。
この部門の目的は、やがて実現するとされるスーパーインテリジェンスをいかに制御するかを研究することだった。しかし、CEOのサム・アルトマンは、安全性の確保よりビジネスを優先した。
このことに不満を持って、この部門の責任者であったイリヤ・サツキバーとヤン・ライクの2人が退社した。彼らはA I のトップ研究者で、退社後に「（AIにより）人類の無力化が進むと、人類絶滅の可能性がある」とSNSで警告した。
この警告に対して、アルトマン CEO は「彼らの言うとおりだが、まず儲けることが先決だ」と本音をもらした。安全対策より、開発競争に負けないことが最優先なのだ。
人類絶滅への警鐘とそのシナリオ
AIの安全性を検証するアメリカの非営利団体「Center for AI Safety」（センター・オブ・AI・セーフティ）では、ウェブサイトで、さまざまな警鐘を取り上げている。彼らの声明は、次のとおり。
「AIによる人類の絶滅のリスクを軽減することは、パンデミックや核戦争といったほかの社会的規模のリスクと同様に、世界的な優先事項であるべきだ」
この声明には、サム・アルトマンをはじめ、グーグル・ディープマインドのデミス・ハッサビスCEO、アンソロピックのダリオ・アモデイCEOといったハイテック企業のトップ、AI研究の第一人者ジェフリー・ヒントン、モントリオール大学のヨシュア・ベンジオ教授などが署名している。
また、「センター・オブ・AI・セーフティ」では、いくつかの災難シナリオを想定している。
・AIの兵器化：新薬開発ツールが化学兵器の製造に使われるといった可能性
・AIで生成された偽情報が社会を不安定化させ、「集団での意思決定に害を及ぼす」可能性
・AIの力がより少数の人に集中し、国家が「監視と抑圧的な検閲を通じて、狭い価値観を強制」できるようになる可能性
・「映画『ウォーリー』で描かれたシナリオのように」、人類がAIに頼って衰退する可能性
AIがホワイトカラーの仕事を奪っていく
人類滅亡は「AI悲観論」の最たるものだが、実際のところ、現在進んでいる切実な問題は、AIによって従来の仕事が失われていることだ。
生成AIが導入されたことにより、多くの仕事が機械に奪われた。
身近な例では、NHKがAIによる自動音声でニュースを流しはじめたことだ。読み上げるというアナウンサーの仕事をAIが奪ったかたちだが、このようにAIにアウトソースできる仕事は山のようにある。
BPO（Business Process Outsourcing：ビジネス・プロセス・アウトソーシング：部分外部委託）は、近年のビジネストレンドだったが、生成AIの登場で多くの失業者が生まれた。たとえば、コールセンター事業が世界第2位のフィリピンでは、約120万人がレイオフされた。
いまやどんな産業でも、事務的なコミュニケーションにおいては、AIが人間の仕事を奪っている。AIによる自動化の影響は、あらゆる業種に及んでいる。ざっと挙げてみても、事務、経理、法律、建築、エンジニアリング、マネジメント、営業、ヘルスケア、デザインなどが挙げられ、AIはホワイトカラーの仕事を奪っている。（つづく）
この続きは11月7日（木）発行の本紙（メルマガ・アプリ・ウェブサイト）に掲載します。
※本コラムは山田順の同名メールマガジンから本人の了承を得て転載しています。
山田順
ジャーナリスト・作家
1952年、神奈川県横浜市生まれ。
立教大学文学部卒業後、1976年光文社入社。「女性自身」編集部、「カッパブックス」編集部を経て、2002年「光文社ペーパーバックス」を創刊し編集長を務める。2010年からフリーランス。現在、作家、ジャーナリストとして取材・執筆活動をしながら、紙書籍と電子書籍の双方をプロデュース中。主な著書に「TBSザ・検証」（1996）、「出版大崩壊」（2011）、「資産フライト」（2011）、「中国の夢は100年たっても実現しない」（2014）、「円安亡国」（2015）など。近著に「米中冷戦 中国必敗の結末」（2019）。
