【悲報】「その画像、本当に現実ですか？」静岡水害デマで浮き彫りになったAI偽画像と、拡散の罠
未曾有の災害時、人々の不安や怒りに付け込むようにして拡散されるデマ情報。静岡県を襲った台風の被災状況をめぐり、SNS上に投稿された衝撃的な「水害画像」が大きな波紋を広げました。しかし、それは実際の写真ではなく、画像生成AIによって捏造された「完全なる虚偽」の画像だったのです。官房長官や自治体も巻き込む事態に発展した今回の事件は、画像生成技術の進化と、それに伴うデマ拡散の危険性を改めて浮き彫りにしました。
拡散された「偽の濁流」
問題となったのは、SNS上に「ドローンで撮影された静岡県の水害。マジで悲惨すぎる」という文言とともに投稿された3枚の画像。住宅街が茶色い水に覆われ、孤立している様子がリアルに描かれており、瞬く間に多数の拡散を記録しました。しかし、専門家の検証により、画像には多くの不自然な点があることが指摘されました。「電柱が一本も存在しない」「住宅の屋根から直接木が生えている」「水の流れが一部だけ不自然に穏やかである」など、人間の目で見れば矛盾だらけのものでしたが、一見すると本物と見紛うクオリティだったため、多くのユーザーが気づかずに拡散する事態となりました。
AI悪用の新たな脅威
これまでの災害デマの多くは、過去の別地域での写真や、別の災害の写真を使い回すものでしたが、今回は「画像生成AI」を用いた新手法でした。投稿者は英語のキーワードを入力しただけで、AIが架空の被災画像を瞬時に構築したといいます。これにより、元データが存在しない「世界に一枚だけの偽写真」が作り出せるため、インターネット検索などによるファクトチェックをすり抜けやすくなるという特徴があります。専門家は、今後は画像生成技術がさらに向上し、人間の目やプロの専門家でも偽物であることを見破るのが不可能な領域に入りつつあると警鐘を鳴らしています。
拡散を防ぐための「ひと呼吸」
私たちはこのような悪意ある情報に対し、どう向き合うべきでしょうか。感情を揺さぶる情報、特に災害時の悲惨な状況や怒りを誘発する画像を目にしたときこそ、一度立ち止まって冷静になることが求められます。安易に拡散を行う前に、情報の出どころは信頼できる機関なのか、他のニュースソースで裏付けが取れているかを確認する習慣を身につける必要があります。
ネットの反応
AIの進歩は素晴らしいが、こういう悪用をする人のせいで規制が強まるのは本当に迷惑。
一見して本物に見えたから拡散してしまった。今後はネットの写真をそのまま信じるのはやめようと思う。
電柱がないとか、よく見れば不自然だけど、タイムラインに流れてきたら気づかずに信じてしまうかもしれない。
デマ投稿者は注目されたいだけなんだろうが、救助活動を混乱させるのは本当に許されることではない。
AIの所感
AI技術の民主化は、クリエイティブな表現の幅を広げる一方で、デマの作成コストを劇的に引き下げました。今回の事件は、偽情報の発信源がこれまでの「情報の切り貼り」から「ゼロからの生成」へとシフトした象徴的な出来事です。技術的に偽画像を見抜くシステムの開発も急がれますが、最も重要なのは、受信者である我々ユーザーのメディアリテラシーです。「衝撃的な情報ほど、拡散する前に一呼吸置く」というシンプルな自衛策が、AI時代のデマ社会を生き抜くために不可欠な態度と言えるでしょう。