災害デマはAIで見抜ける？確認できることとできないこと
画像出典: Andrea Piacquadio / Pexels
AIチャットは投稿の真偽そのものを判定できません。学習した文章の続きを予測する仕組みで動いており、たった今流れている投稿の裏を取る機能を持たないためです。使いどころは判定役ではなく、投稿から確認すべき点を洗い出し、確認先となる公的機関の窓口を並べさせる整理役に置きます。
災害が起きた直後のSNSには、公式発表よりも先に断片的な情報が流れます。日付や地名まで具体的に書かれていると、嘘だとは思いにくいものです。総務省の『令和6年版情報通信白書』（2024年7月公表）によれば、SNS利用者の60%以上が「真偽が不確かな情報を見かけたことがある」と回答しています。珍しい出来事ではなく、SNSを使っていれば誰でも遭遇する場面ということです。
そこでAIチャットに投稿文を貼りつけて聞く、という発想が出てきます。ただ、その使い方はAIがいちばん苦手とする質問の形です。理由はAIの仕組みそのものにあり、性能が上がっても解決しません。まずそこから見ていきます。
なぜAIチャットは投稿の真偽を判定できないのか？
大規模言語モデル（ChatGPTやClaudeなどのAIチャットの中身にある、大量の文章で訓練された予測モデル）がやっていることは、突きつめると「これまでの文章に続く、もっともらしい言葉を選ぶ」ことです。膨大な文章から言葉のつながり方のパターンを学び、そのパターンに沿って続きを生成します。
ここに、真偽判定との決定的なズレがあります。パターンとして自然かどうかと、その出来事が現実に起きたかどうかは、別の話です。災害デマは「本物らしく見える書き方」で書かれるからこそ拡散します。つまりデマほど、AIから見て自然な文章になっています。
文章の巧みさは、AIにとって疑う理由になりません。「〇〇市△△町で建物が倒壊、身動きが取れません」という文は、実際の救助要請としてもデマとしても、文章としては同じ形をしています。文の外側にある事実に触れる手段がなければ、この2つは区別できません。
もうひとつの壁は「時間」
AIには学習データの締め切り日があります。訓練に使った文章は、ある時点までのものです。今まさに起きている災害は、当然そこに含まれていません。
Web検索機能を持つAIなら、その場で検索して答えを補えます。ただしこれも万能ではありません。災害直後に検索して出てくる情報の多くは、まさに拡散中の投稿やそれを転載したページです。デマが広く拡散している状況では、検索結果もデマで埋まります。AIはそれを読んで「複数の情報源で確認されています」と答えかねません。数の多さは、正しさの証拠になりません。
これはAIの精度の問題ではなく、「文章の外にある現実を、その場で確かめる手段があるか」という構造の問題です。より賢いモデルが出ても、発生から数十分の出来事について、AIが独自に現場を確認できるようにはなりません。真偽の最終判断は、AIに渡せない領域として残ります。
実際にどんな被害が出ているのか？
2024年1月の能登半島地震では、X上で180件を超える虚偽の救助要請・偽情報が拡散し、警察が実際に出動する事態も起きました（総務省『令和6年版情報通信白書』）。存在しない住所へ救助が向かえば、本当に助けを求めている人への対応がその分だけ遅れます。
総務省は同月、SNS事業者に対して利用規約等を踏まえた適正な対応を要請し、デマ投稿の削除やアカウント停止、ファクトチェック結果の周知といった対応が行われたことを確認しています。裏を返せば、削除が追いつくまでの間、デマは拡散し続けているということでもあります。
AIはどこで使えばいいのか？
判定役から降ろすと、AIには別の役割が見えてきます。真偽を決めるのは人と一次情報の仕事、AIはその手前を速くする道具です。具体的には次の3つが向いています。
- ✅ 投稿文から「確認すべき点」を項目に分解する
- ✅ その地域で確認先になる公的機関を洗い出す
- ✅ 投稿の書き方に不自然な点がないか観点を挙げさせる
- ❌ 投稿が本当かどうかの最終判定
- ❌ 今まさに起きている現場の状況把握
3つ目の「不自然な点」は判定ではなく観点出しです。AIが「怪しい」と言ったから偽物、ではありません。人が自分の目で確認するためのチェック項目を、抜けなく並べてもらうという使い方です。
実際に使えるプロンプト
投稿を貼りつけて、こう指示します。
- 次のSNS投稿について、真偽の判定はしないでください。
- 代わりに、この投稿が事実かどうかを私が公的機関で確認するために、何を照合すればよいかを項目に分けて挙げてください。
- あわせて、投稿に出てくる地域の情報を確認できる公的機関（自治体・気象庁・警察・消防・報道機関）の種類を挙げてください。
- 投稿本文: 「（ここに貼りつけ）」
「判定はしないでください」を最初に置くのが要点です。これがないと、AIは頼まれてもいない結論を書きます。生成AIは指示された役割に沿って出力を組み立てるので、役割を判定役から整理役へ明示的にずらすことで、出力の質が変わります。
一次情報はどう確認すればいいのか？
AIが並べた項目を持って、実際に確認へ行きます。公的機関や報道機関が呼びかけている基本は、次の3点です。
- 発信元が公式アカウントかを見る自治体・気象庁・警察・消防・報道機関の公式アカウントかどうかを確認します。転載された画像やスクリーンショットではなく、その組織のアカウントや公式サイトを自分で開いて確かめます。
- 確信が持てないものは拡散しない善意の拡散でも、誤情報なら救助リソースを奪います。「拡散希望」と書かれているほど、いったん止まって確認する場面です。
- 報告・相談の窓口を使うSNSの誤情報報告機能や、自治体・警察の相談窓口へ回します。自分で反論するより確実です。
気象・避難情報については、AIの回答や他人の要約を経由せず、気象庁など公的機関の公式サイト・公式アカウントから直接得ることが重要です。途中に人やAIが一段挟まるたびに、要約の省略や誤読が混じる余地が生まれます。
確認先を探す作業と、答え合わせをする作業を分けておくと、AIの速さと公的機関の確かさが両立します。慌てている時ほど確認項目は抜けるので、抜けを埋める役をAIに持たせておくと、確認の質が安定します。
平時のうちに何をしておくといいか？
災害の最中に確認先を探し始めると、間に合いません。回線が混み合い、検索結果もデマで埋まっている状況だからです。
- 住んでいる自治体の防災アカウント・防災ページをブックマークする
- 気象庁の公式サイトをブックマークする
- 勤務先や実家がある地域の自治体も同じように登録する
- 使っているSNSの誤情報報告機能の場所を一度開いて確認する
ここまで用意しておけば、災害時にやることは「投稿を見る→AIに確認項目を出させる→ブックマークから公式を開いて照合する」の3手だけになります。判断の速さは、事前に確認先を持っているかで決まります。
AIの回答をそのまま信じてはいけない理由をもう一度
AIチャットは、確信のなさを文章に出しません。学習したパターンから流暢な文を組み立てるため、根拠が薄い時も、確かな時と同じ落ち着いた口調で答えます。文章の自信の度合いと、内容の確かさは連動していません。
だからこそ、AIには「確認先を教えて」と聞くのが安全です。この聞き方なら、答えが正しいかどうかを、こちらが公式サイトを開いて即座に検証できます。検証できる形で答えさせるのが、AIとの付き合い方の基本です。真偽判定を丸ごと任せると、この検証の道が塞がれます。
よくある質問
Web検索できるAIなら災害デマを見抜けますか？
見抜けるとは限りません。災害直後の検索結果には拡散中の投稿やその転載ページが多く含まれるため、デマが広く拡散していれば検索結果もデマで埋まります。AIが「複数の情報源で確認されている」と答えても、それは情報源の数が多いことを示すだけで、正しさの証拠にはなりません。
災害情報の一次情報はどこで確認すればいいですか？
自治体・気象庁・警察・消防・報道機関の公式アカウントや公式サイトを、自分で開いて確認します。特に気象・避難情報は気象庁など公的機関の公式サイトから直接得ることが重要です。転載された画像やスクリーンショットは、元の投稿が改変されている可能性があるため一次情報になりません。
災害時のSNSデマは実際にどれくらい起きていますか？
総務省『令和6年版情報通信白書』（2024年7月公表）では、SNS利用者の60%以上が真偽が不確かな情報を見かけたことがあると回答しています。2024年1月の能登半島地震では、X上で180件を超える虚偽の救助要請・偽情報が拡散し、警察が実際に出動する事態も起きました。
デマだと思う投稿を見つけたらどうすればいいですか？
自分で反論するのではなく、SNSの誤情報報告機能や、自治体・警察の相談窓口へ報告します。また、確信が持てない情報は拡散しないことが基本です。善意の拡散であっても、誤情報であれば救助リソースが実在しない場所へ向かい、本当に助けを求めている人への対応が遅れます。
※記事で使用した内容・数値は変更される場合があります。最新情報は公式サイトをご確認ください。