AIの偽画像や動画を本物と思って拡散してしまった。研究では、広めた本人が早めに出す訂正ほど効きやすい
本物だと思って広めた画像や動画が、AIで作られた偽物だった。気づいたときの気まずさや、自分を責める気持ちは自然なものです。総務省の2025年の調査では、偽・誤情報を見聞きした人の4人に1人が、何らかの形でそれを広めていました。研究では、誤情報を出した側が早めに出す訂正ほど効きやすくなっていました。
3行でわかる
- 投稿を消すだけでは、すでに見た人に「偽物だった」ことは伝わりません。何が違っていたかを、自分の言葉で伝える訂正が基本です。
- 32本の研究をまとめた分析では、誤情報を出した側による訂正が効きやすく、時間がたつと効きにくくなっていました。
- 訂正は元の情報ほど広まらないことがあります。誤情報が訂正の44倍以上流れた例もあり、直接伝えた相手には個別にも伝え直しましょう。
01 結論から言うと偽画像を広めてしまったら、消せば十分？
消すだけでは十分ではありません。すでに見た人には「偽物だった」ことが伝わらないためです。研究で効きやすかったのは、誤情報を出した側が早めに出す、筋の通った訂正でした。
一度信じた情報は、あとで訂正されても、考えや判断に影響し続けることがあります。研究では「継続的影響効果」と呼ばれます。[1][2]
投稿を消せば、それ以上の広がりは防げます。けれど、見た人の記憶に残った画像は消えません。だから訂正を出す意味があります。
総務省の教材も、国内で災害時に生成AIで作られた偽の画像がSNSに投稿され、本物と勘違いした人に広められた騒動を紹介しています。[9]
02 研究とデータでわかっていること訂正はどのくらい効き、どこまで届く？
訂正は誤った思い込みを減らしますが、消しきれません。効きやすいのは、誤情報を出した側による、早めで筋の通った訂正です。一方、訂正は元の情報よりずっと少ない量しか流れていませんでした。
WalterとTukachinsky（2020）[1]
32本の研究（6,527人）をまとめた分析で、訂正しても平均して誤情報の影響は完全には消えませんでした。訂正が効きやすかったのは、筋が通っているとき、受け手の考え方と合うとき、そして誤情報を出した本人が訂正したときでした。
逆に、訂正の前に誤情報が何度も繰り返されたときや、誤情報から訂正まで時間があいたときは、効きにくくなっていました。
対象: 訂正の効果を調べた実験研究 ／ 限界: 生成AIが広まる前の研究のまとめで、AIの画像や動画を扱ったものではない。「誤情報を出した本人」は実験で誤情報を伝えた側のことで、SNSで共有した個人の訂正を直接調べたものではない。
Chanら（2017）[2]
20の実験（52の独立した標本、6,878人）をまとめた分析です。誤情報を打ち消す訂正には大きな効果があった一方、訂正のあとも誤情報の影響ははっきり残っていました。受け手が誤情報を支持する理由を自分で考えていたときほど、影響が残りやすく、訂正は効きにくくなっていました。
著者らは、訂正には「違う」と言うだけでなく、新しい情報を含めることを勧めています。
対象: 誤情報の訂正を調べた実験 ／ 限界: 詳しい訂正は効果とも、影響の残りやすさとも関連しており、長く書けばよいとは言えない。
Walterら（2021）[3]
SNS上の健康の誤情報への訂正を調べた24本の研究（6,086人）をまとめた分析で、訂正には平均して効果があり、専門家による訂正は専門家でない人の訂正より効きやすくなっていました。誤情報を流したのが身近な人のときより、報道機関のときの方が訂正は効きやすい結果でした。
対象: 健康の話題の研究 ／ 限界: 効果が大きく出た研究ほど発表されやすい偏りを否定できない、と著者ら自身が書いている。
BodeとVraga（2018）[4]
模擬のFacebook画面で感染症の誤情報を見せた実験です。ほかの利用者が投稿した訂正は、サービス側が自動で示す訂正と同じくらい、誤った思い込みを減らしました。著者らは、訂正に適切な出典を添えることを勧めています。
対象: 1つの感染症の話題の実験 ／ 限界: 模擬画面での実験で、実際のSNSのつながりの中ではない。
Starbirdら（2014）[5]
2013年のボストン・マラソン爆破事件のあと、Twitterに流れた3つの偽の話を調べました。「マラソン中の少女が亡くなった」という写真つきの話では、誤情報90,668件に対し訂正は2,046件で、44倍以上の差がありました。
対象: 1つの事件の3つの噂 ／ 限界: 生成AIが広まる前のデータで、1つの事件の噂に限られる。
Friggeriら（2014）[6]
2013年7〜8月のFacebookで、噂の広がりを調べました。偽の噂の共有は、コメントで事実確認サイトへのリンクを付けられると、付けられなかったときの4.4倍削除されやすくなっていました。
対象: 1つのSNSの共有 ／ 限界: 削除の起きやすさを調べたもので、削除によって見た人の考えが変わったかは測っていない。
Rohman（2022）[7]
ベトナムのハノイで、自分が広めた誤情報を自分で正した経験について聞き取りをした研究です。方法は、ネット上での謝罪、投稿の削除、そして電話や少人数での直接の会話などでした。影響を受けたと思う相手に、個別に届ける形が目立ちました。
対象: ハノイのSNS利用者への聞き取り ／ 限界: 1つの都市の聞き取りで、訂正の効果は測っていない。
研究を並べると、訂正を左右する条件が見えてきます。
| 条件 | 研究でわかったこと |
|---|---|
| 誰が訂正するか | 誤情報を出した側の訂正が効きやすい[1]。健康の話題では専門家の訂正が効きやすい[3] |
| いつ訂正するか | 時間があくほど効きにくい[1]。事実確認の指摘を受けた共有は削除されやすい[6] |
| 何を書くか | 筋の通った訂正が効きやすい[1]。新しい情報や出典を添えることが勧められている[2][4] |
| どこまで届くか | 訂正は誤情報よりずっと少なかった[5]。広めた経路で最も多いのは対面の会話[8] |
03 まだわかっていないこと消すのと訂正するのは、どちらがよい？
投稿の削除と訂正の投稿を直接比べた研究は、今回調べた範囲では見つかりませんでした。AIで作られた画像や動画の訂正に絞った研究も、まだ少ない状態です。
- 削除で、すでに見た人の考えがどう変わるかを測った研究は見つかりませんでした。紹介した研究[6]は、削除の起きやすさを調べたものです。
- 紹介した研究の多くは、生成AIが広まる前の文章や写真の誤情報です。本物そっくりの動画でも同じように訂正が効くかは、わかっていません。
- 日本語のSNSで、個人の訂正がどこまで届くかを示すデータは見つかりませんでした。
04 今日からできること拡散してしまったら、何から手をつける？
まず偽物だと確かめ、広めた本人として訂正を出します。直接伝えた相手には個別に伝え、元の投稿はそのあとで整理します。お金はかからず、30分ほどでできます。
偽物だという根拠を確かめる
公的機関の発表、報道、ファクトチェック団体の記事など、偽物だとわかった根拠を1つ見つけます。総務省の事例集も、真偽の不確かな情報はこれらで確かめるよう勧めています。[10]
目安 10分
自分の言葉で訂正を出す
「〇日に共有した〜の画像（動画）は、AIで作られたものでした」と書き、何が違っていたかと、確かめた先を添えます。元の投稿への返信など、見た人の目に入りやすい場所に出します。
目安 5分
直接伝えた相手には、同じ経路で伝える
話した家族や友人、メッセージで送った相手には、会話やメッセージで「さっきの話は偽物だった」と伝えます。広めた経路で最も多いのは、対面の会話でした。[8]
目安 1人1〜2分
元の投稿を整理する
訂正を出したあと、元の投稿は削除するか、訂正がすぐわかる形で残します。保存された画面の画像や、ほかの人の投稿までは自分では消せません。
目安 5分
自分を責めすぎない
偽・誤情報を見聞きした人の4人に1人が広めていました。[8] 気づいて訂正するあなたの行動は、研究で効きやすいとされた「誤情報を出した側による訂正」に近いものです。
目安 考え方の切り替えだけ
法的な責任が気になる人もいると思います。総務省の教材は、災害時に生成AIの偽の画像を広めることは「法的な責任も問われうる行為」だと説明しています。また、事件の関係者だと誤って広められた人が、投稿者や拡散者の特定を進め、裁判で損害賠償を命じる判決が出た例も紹介しています。[9] 当てはまるかどうかの判断は、この記事ではできません。
次に同じことを防ぐ備えは選挙のディープフェイクに惑わされないために、相手のアカウントが人かどうか気になるときはSNSの相手がAIかもしれないにまとめています。偽の画像で実在の人が傷つけられていたら、被害を受けた側の手順はディープフェイク被害のあとは「証拠・報告・相談」の3つで紹介しています。
法テラス・サポートダイヤル 0570-078374（平日9〜21時、土曜9〜17時。祝日・年末年始を除く）: 法的なトラブルの心配があり、どこに相談すればよいかわからないときに。法的トラブル解決のための「総合案内所」とされています。[11]
05よくある質問
AIの偽画像だと気づいたら、すぐ投稿を消すべきですか？
消す前か消すのと同時に、何が違っていたかを伝える訂正を出すのがおすすめです。消すだけでは、すでに見た人に偽物だったことが伝わりません。32本の研究をまとめた分析では、誤情報を出した側による訂正が効きやすく、時間がたつと効きにくくなっていました。
訂正しても、一度信じた人の考えは変わらないのでは？
訂正で誤った思い込みは減りますが、完全には消えないことが多いと研究でわかっています。20の実験をまとめた分析では、訂正には大きな効果があった一方、訂正後も誤情報の影響が残っていました。だから、早めに出どころを添えて伝えることが大切です。
偽の画像を共有しただけで、責任を問われることはありますか？
この記事では法的な判断はできません。総務省の教材は、災害時に生成AIで作られた偽の画像を広めることは法的な責任も問われうる行為だと説明し、誤った情報を広められた人が裁判を起こし、損害賠償を命じる判決が出た例も紹介しています。個別の心配は、法テラス・サポートダイヤル（0570-078374）で相談先を確かめてください。
関連記事
偽情報・ディープフェイク顔写真が勝手にAIで加工されて広まった。ディープフェイク被害のあとは「証拠・報告・相談」の3つ
偽情報・ディープフェイク選挙のディープフェイクに惑わされないために。研究では、見抜く目より「手口を先に知る」「共有前に止まる」が役に立っていた
偽情報・ディープフェイクSNSの相手がAIかもしれない。ボットのアカウントは見分けられる？研究では、文章や顔写真の印象ではほぼ当てられなかった
出典
- Walter N, Tukachinsky R (2020). A Meta-Analytic Examination of the Continued Influence of Misinformation in the Face of Correction: How Powerful Is It, Why Does It Happen, and How to Stop It? Communication Research, 47(2), 155–177. https://doi.org/10.1177/0093650219854600
- Chan MS, Jones CR, Hall Jamieson K, Albarracín D (2017). Debunking: A Meta-Analysis of the Psychological Efficacy of Messages Countering Misinformation. Psychological Science, 28(11), 1531–1546. https://doi.org/10.1177/0956797617714579
- Walter N, Brooks JJ, Saucier CJ, Suresh S (2021). Evaluating the Impact of Attempts to Correct Health Misinformation on Social Media: A Meta-Analysis. Health Communication, 36(13), 1776–1784. https://doi.org/10.1080/10410236.2020.1794553
- Bode L, Vraga EK (2018). See Something, Say Something: Correction of Global Health Misinformation on Social Media. Health Communication, 33(9), 1131–1140. https://doi.org/10.1080/10410236.2017.1331312
- Starbird K, Maddock J, Orand M, Achterman P, Mason RM (2014). Rumors, False Flags, and Digital Vigilantes: Misinformation on Twitter after the 2013 Boston Marathon Bombing. iConference 2014 Proceedings. https://faculty.washington.edu/kstarbi/Starbird_iConference2014-final.pdf
- Friggeri A, Adamic L, Eckles D, Cheng J (2014). Rumor Cascades. Proceedings of the International AAAI Conference on Web and Social Media, 8(1), 101–110. https://doi.org/10.1609/icwsm.v8i1.14559
- Rohman A (2022). Hybrid Self-Repairs in Everyday Misinformation Sharing. International Journal of Communication, 16, 1220–1238. https://ijoc.org/index.php/ijoc/article/view/17369
- 総務省 (2025). ICTリテラシー実態調査（令和7年5月13日公表）. https://www.soumu.go.jp/main_content/001008791.pdf
- 総務省 (2025). インターネットとの向き合い方～ニセ・誤情報にだまされないために～第2版（2025年2月改訂）. https://www.soumu.go.jp/use_the_internet_wisely/special/nisegojouhou/
- 総務省 インターネットトラブル事例集「21.良かれと思って拡散した情報がデマだった？！」. https://www.soumu.go.jp/use_the_internet_wisely/trouble/case/case21.html
- 日本司法支援センター（法テラス）「法テラスとは」. https://www.houterasu.or.jp/site/about-houterasu/