偽動画制作に専用AI

04/16/2024

　今年3月に交流サイト（SNS）に投稿されて拡散したバイデン米大統領の偽動画が、米著名人らに的を絞った専用の生成人工知能（AI）サービスを使って制作されたことが16日、分かった。英語のせりふを入力すると数分で完成。声や表情に不自然さはなく、1分につき2ドル（約300円）の料金を払えば誰でも利用できる。11月の大統領選を控え、偽情報流布に悪用される懸念がある。

　専用AIの運営者や偽動画の投稿者に取材するといずれも作成を認めた。セキュリティー企業の三井物産セキュアディレクション（東京）の吉川孝志氏が、検証目的で同じせりふを入力して偽動画を作成すると、投稿の偽動画とまったく同じになった。音声の波形も完全に一致した。

　偽動画は3月4日、X（旧ツイッター）や通信アプリ「テレグラム」に投稿された。長さは14秒で「バイデンが目覚め、真実を語る」の説明文が付く。バイデン氏が記者会見で「戦争は全てうそに基づいており、国は小児性愛者が運営している」などと話す。Xでは4月1日時点で約66万回再生された。投稿者は「私は陰謀論者だ。動画は偽物だが、その中でバイデンが話している内容は真実だ」と主張した。