AIの偽情報の見分け方、拡散前に確認する3つの点

画像出典: ぱくたそ

やってしまった経験がある人は少なくありません。悪意があったわけではなく、むしろ「早く知らせなきゃ」という善意が引き金になります。偽情報がよく広がるのは、この善意の回路に乗るからです。

正直なところ、見抜く力を鍛えるより先にやるべきことがあります。押す前に一拍おいて、決まった3か所だけを見るという手順を持つことです。感覚ではなく手順なら、焦っているときでも実行できます。

AI時代の偽情報は、何が変わったのか？

結論から言うと、質が上がったこと以上に量が爆発的に増えたことが変化の本体です。もともと世の中には誤情報・偽情報が溢れていましたが、生成AIの登場後はそこにさらに上乗せされる形になっています。

文章も画像も、作るコストがほぼゼロになりました。以前なら偽の写真を1枚でっち上げるのに画像編集の技能と時間が必要でしたが、今は文章で指示するだけで何十枚も出てきます。1人が1テーマで大量に投稿できるので、タイムラインを眺めると「みんなが言っている」ように見えてしまう。この「多数に見える」錯覚こそが厄介なところです。

確認1：その情報は、いつ・どこから出たものか？

内閣官房が偽情報対策の啓発として最初に挙げているのが、情報源の確認です。問いはシンプルで、「その情報はいつ、どこから発信されたものですか？根拠は示されていますか？」の一文に尽きます。

ここで見るのは投稿の本文ではなく、投稿の外側です。アカウントの作成時期、これまで何を投稿してきたか、プロフィールに「AIアーティスト」「AI画像制作」といった記載がないか。作品として公開されたAI画像が、文脈を外れて「実際の現場写真」として広まる、という経路はよく起きます。

最後の項目も内閣官房の挙げる確認項目のひとつです。同じ出来事なら、複数の発信を突き合わせれば食い違いが見えます。逆に、その1アカウントしか言っていない大ニュースは、それ自体が黄信号です。

確認2：画像や動画の「描写の破綻」はどこに出るか？

生成の精度は上がっていますが、破綻が出やすい場所には傾向があります。ファクトチェックセンターが2026年1月7日に公開した検証手順では、次のような箇所を見るよう挙げられています。

ただ、項目名だけでは実際の画面のどこを拡大すればいいのかが掴みにくいものです。1枚の写真の中で、どの部位を見て、何が見えたら怪しいのかを部位ごとに並べると次のようになります。

日本ファクトチェックセンターの公表データをもとに作成

上の6か所に共通しているのは、主役の周辺にあって作り手が注意を払わない部分だという点です。人物の顔は膨大な学習量があるため自然に仕上がりますが、その後ろの看板の文字や、光源に対する影の落ち方までは整合が取りきれない。だから中心ではなく端を見る、というのが実用的な見方になります。

透かしやラベルの確認も同時に行えます。OpenAIのSoraやGoogleのGeminiなどの生成AIツールで動画を作ると透かしが入りますし、YouTubeやTikTokには投稿者がAI生成であることを示すラベル表示の仕組みがあります。ただし、すべての生成物に透かしやラベルが付いているわけではないため、透かしが無いこと自体は本物の証明になりません。あれば確定、無ければ判断保留、という非対称な材料です。

画像検索という近道

描写を凝視するより早く決着がつくことも多いのが、画像検索です。内閣官房の確認項目でも、画像検索によって「過去に別の文脈で投稿された画像の使い回し」に気づけると示されています。

AIで新規に作られた偽画像だけでなく、実在するけれど別の災害・別の年の写真が今の出来事として貼られるケースは非常に多く、これは画像検索なら数十秒で判明します。手指を拡大して悩む前に、まず1回検索するほうが確実です。

確認3：公式情報と突き合わせると、どうなるか？

3つ目は、内容そのものを外部の一次情報と照合する工程です。ファクトチェックセンターの手順でも、気象庁やNHKなどの公式情報源との照合、その人物が当時その場にいたのかの確認、政治家や著名人の言動として妥当かの検討が挙げられています。

1. 公式の発信を直接見る災害・気象・交通なら気象庁や自治体、企業の発表なら企業の公式サイト。「◯◯によると」ではなく、その◯◯を自分で開きます。
2. 時系列が合うか見るその人物・組織が、その時間にその場所でその発言をする状況だったか。日程が公開されていれば、それだけで矛盾が出ることがあります。
3. ファクトチェックを探す大手メディアやネットメディア、非営利組織がファクトチェックを実施しています。話題性のある偽情報なら、すでに検証済みのことが多くあります。

意図を考える視点も内閣官房は挙げています。その情報にはどのような意図があり、拡散したときにどんな影響が発生するのか。強い怒りや不安をかき立てる投稿ほど拡散されやすく、そこを狙って作られている可能性を疑う余地があります。感情が動いた瞬間が、いちばん確認の必要なタイミングです。

検証ツールを補助に使う手もあります。「Hive Moderation」のような無料ツールがありますが、画質が低下していると精度も下がる点には注意が必要です。スクリーンショットの再撮影や圧縮を繰り返した画像ほど、判定は当てになりません。

結局、拡散する前に何をすればいい？

3つの確認をまとめると、次の順番になります。上から順に、かかる時間が短くて決着しやすいものから並べています。

そして最も大事なのは、3つ全部を通しても白黒つかないときの態度です。政府広報でも案内されているとおり、真偽を確かめ、正確性が判断できない場合には安易に投稿・拡散しないのが基本姿勢とされています。

判断を保留したまま黙っているのは、負けでも無関心でもありません。偽情報が力を持つのは拡散されたときだけなので、押さないという選択には、それ自体に十分な効果があります。

よくある質問

AI生成の画像かどうかを判定してくれるツールは信用できますか？

補助としては使えますが、最終判断を預けるには早い段階です。生成物を完璧に自動検知する技術は今のところ開発されていません。「Hive Moderation」などの無料ツールがありますが、画質が低下していると精度も下がるため、スクリーンショットの再撮影や圧縮を経た画像では判定が当てになりにくくなります。

AI生成の透かしが入っていなければ、本物と考えていいですか？

いいえ、透かしの不在は本物の証明になりません。OpenAIのSoraやGoogleのGeminiなどのツールで作った動画には透かしが入りますが、すべての生成物に透かしやラベルが付くわけではありません。透かしがあればAI生成と確定できる一方、無い場合は判断を保留し、描写の破綻や公式情報との照合など他の確認に進むのが適切です。

AI画像を見分けるとき、具体的にどこを見ればいいですか？

人物の顔など中心部分ではなく、周辺を見ます。ファクトチェックセンターが挙げている観察点は、手指・髪・歯の描写の乱れ、背景の看板の文字の崩れ、物の唐突な出現や消失、顔の輪郭境界のぼやけ、影と構造物の不一致、直線であるべき構造物の歪みです。作り手が注意を向けにくい端の部分ほど、整合が崩れやすくなります。

真偽が判断できないとき、シェアしてもいいですか？

控えるのが基本です。政府広報などでは、情報の真偽を確かめ、正確性が判断できない場合には安易に投稿・拡散しないよう呼びかけられています。「注意喚起のつもり」でも、拡散されること自体が偽情報に力を与えるため、判断がつくまでは押さないという選択が有効な対処になります。

※記事で使用した内容・数値は変更される場合があります。最新情報は公式サイトをご確認ください。