AIの偽画像やデマを本物だと信じてしまい、自分が情けない。研究では、知識がある人もくり返し見た話を信じやすく、だまされたのは頭の良し悪しではなかった
本物だと思って見ていた画像や動画、ニュースが、あとからAIで作られた偽物だとわかった。「どうして気づかなかったんだろう」「自分はだまされやすいのかも」と落ち込むのは自然なことです。研究では、知識がある人でも、くり返し見た話を本当だと感じやすくなっていました。だまされたのは、頭の良し悪しのせいではありません。恥ずかしさを、次に立ち止まるための小さな習慣に変えていきます。
3行でわかる
- 実験では、正しい答えを知っている人でも、くり返し見た間違った文を本当だと感じやすくなっていました。だまされるのは知識不足だけが原因ではありません。
- 米国の8,285人の調査では、4人に3人がニュースの真偽を見分ける力を実際より高く見積もっていました。見積もりすぎの人ほど、偽の情報を信じたり広めたりしやすい傾向がありました。
- だまされた経験は「自分も間違える」と知るきっかけになります。研究では、その自覚がある人ほど情報を確かめていました。
01 結論から言うとAIの偽物にだまされたのは、自分が悪い？
AIの偽画像や偽ニュースにだまされたのは、頭の良し悪しのせいではありません。知識がある人でも、くり返し見た話は本当だと感じます。自分を責めるより、「自分も間違える」と知ったことを、確かめる習慣に変えるほうが立て直しにつながります。
AIで作った画像や文章は、見た目や読み心地だけではほとんど見分けられなくなっています。詳しくは「AIが書いた偽情報は、人が書いたものよりだまされやすい？」にまとめています。
だから、一度だまされたことは、あなたの判断力が特別に低い証拠ではありません。多くの人に同じことが起きています。
ただ、落ち込んだまま「もう何も信じない」と決めてしまうと、本当の情報まで遠ざけることになります。目指したいのは、自信を取り戻すことより、「自分も間違えることがある」と知ったうえで、大事な場面だけ立ち止まれる状態です。
02 研究とデータでわかっていること人は、なぜ偽の情報にだまされる？
偽の情報にだまされる大きな理由は、知識不足より、くり返し見た話を本当と感じる心の働きや、立ち止まって考えないことでした。見分ける力を高く見積もる人ほど、偽の情報を信じやすい傾向でした。自分も間違えると知る人ほど、情報を確かめていました。
Fazioら（2015）[1]
2つの実験で、くり返し見た文は、初めて見る文より本当だと判断されやすくなりました。これは、正しい答えを知っている人でも起きていました。知っている知識より、「読みやすい」「見たことがある」という感覚に頼ってしまうことがあるためです。
対象: 2つの実験の参加者 ／ 限界: 一般常識の文を使った実験で、AIの偽画像や偽動画を使ったものではない。
Lyonsら（2021）[2]
米国の全国を代表する2つの調査（計8,285人）で、4人に3人が、ニュースの見出しの真偽を見分ける力を、ほかの人と比べて実際より高く見積もっていました。平均すると、自分の順位を22パーセンタイル高く見ていました。
見積もりすぎの人ほど、信頼できないサイトを訪れ、ニュースの真偽を見分けられず、偽の内容に「いいね」や共有をしたいと答える傾向がありました。実際の成績が下位4分の1だった人も、自分を真ん中より上だと見ていました。
対象: 2018〜2019年に調査に答えた米国の成人 ／ 限界: 相関を調べた研究で、見積もりすぎが原因かどうかはわからない。使った見出しは12本。
PennycookとRand（2019）[3]
2つの研究（計3,446人）で、立ち止まってじっくり考える傾向の強い人ほど、偽ニュースを本当だと思いにくく、本物と偽物を見分けられていました。自分の政治の考えに合う見出しでも同じでした。
研究者は、偽ニュースにだまされる大きな理由は、考えの偏りより、立ち止まって考えないことだと結論づけています。
対象: オンラインの作業サイトで募集した参加者 ／ 限界: AIで作った情報ではなく、ニュースの見出しを使った研究。
Pennycookら（2021）[4]
多くの参加者は「正確なニュースだけを共有することが大切だ」と答えていました。それでも、共有したいかどうかは、ニュースが本当か偽物かにあまり左右されませんでした。
共有する前に「正確かどうか」にさりげなく注意を向けると、そのあと共有されるニュースの質が上がりました。研究者は、人が偽の情報を広めるのは、正確さ以外のことに注意が向いているからだとしています。
対象: 4つのオンライン実験とSNS上の実験の参加者 ／ 限界: 共有の意図や行動を調べたもので、だまされたあとの気持ちを調べたものではない。
Koetkeら（2023）[5]
事前に計画を登録した3つの研究（計889人）で、情報が本当かどうかを調べる「確かめる行動」をとるほど、政治の偽情報を見分けやすくなっていました。自分の考えが間違っている可能性を認める「知的謙虚さ」の高い人ほど、確かめる行動をとっていました。
3つ目の研究では、自分も間違えることがあると意識してもらう方法で、知的謙虚さを高めることを試しています。
対象: 3つの研究の参加者 ／ 限界: 政治の情報に限った研究で、意識を変える方法が長く続くかはわかっていない。
だまされたあとの気持ちと、研究でわかったことを並べると、次のようになります。
| だまされたあとの気持ち | 研究でわかったこと |
|---|---|
| 知っていたはずなのに信じた | 知識がある人でも、くり返し見た話を本当と感じた[1] |
| 自分だけがだまされやすい | 4人に3人が、見分ける力を実際より高く見積もっていた[2] |
| もっと賢くならないといけない | 大きな理由は、偏りより立ち止まらないことだった[3] |
| もう何も共有できない | 共有前に正確さへ注意を向けると、共有の質が上がった[4] |
| 間違えた自分が恥ずかしい | 自分も間違えると認める人ほど、確かめていた[5] |
03 まだわかっていないこと一度だまされると、次はだまされにくくなる？
一度だまされた経験が、その後の見分け方や確かめ方をどう変えるかを、長く追った研究は今回調べた範囲では見つかりませんでした。だまされたあとの恥ずかしさや落ち込みを調べた研究も、まだ少ない状態です。
- 紹介した研究の多くは、ニュースの見出しや文章を使っています。AIで作った画像や動画で同じ結果になるかは、まだはっきりしていません。
- 研究の多くは米国のものです。日本で同じ傾向があるかは確かめられていません。
- 「自分も間違える」と意識する方法が、日常の中でどのくらい長く効くのかは、わかっていません。
04 今日からできることだまされたあと、どう立て直す？
立て直しは3つです。何にだまされたかを一言で書き出すこと、大事な情報だけ共有前に「本当か」と一呼吸おくこと、だまされた話を身近な人と共有することです。どれもお金はかからず、1回数分でできます。
何にだまされたかを、責めずに一言で書き出す
「何度も流れてきたので本当だと思った」「急いでいて確かめなかった」のように、きっかけを1つだけメモします。自分の性格ではなく、起きた状況として書くのがコツです。くり返し見ると本当に感じる、という心の働きは誰にでもあります。
目安 1回3分
共有の前だけ、「これは本当？」と一呼吸おく
すべてを疑う必要はありません。人に送る前、お金や健康、選挙に関わる話を見たときだけ、「本当かどうか」を一度考えます。研究では、正確さに注意を向けるだけで、共有されるニュースの質が上がっていました。
目安 1回10秒〜1分
だまされた話を、身近な人に話してみる
「こういう偽物を本物だと思っちゃった」と話すと、自分だけではないと気づけることがあります。相手が同じものにだまされるのを防ぐ助けにもなります。もし広めてしまっていたなら、訂正の仕方は「AIの偽画像や動画を本物と思って拡散してしまった」にまとめています。
目安 5分ほど
反対に、疑いすぎて何も信じられなくなったときは「偽情報やディープフェイクが気になって、何も信じられなくなった」も読んでみてください。手口を先に知っておく備え方は「選挙のディープフェイクに惑わされないために」で紹介しています。
05よくある質問
AIの偽動画にだまされるのは、年をとったから？
年齢だけで決まるわけではありません。実験では、知識がある人でも、くり返し見た話を本当だと感じやすくなっていました。米国の調査では、4人に3人が見分ける力を実際より高く見積もっていました。年齢にかかわらず、誰にでも起こりうることです。
見分け方を勉強すれば、もうだまされない？
だまされる回数を減らす助けにはなりますが、「もうだまされない」と思うのは注意が必要です。研究では、見分ける力を高く見積もる人ほど、偽の情報を信じたり広めたりしやすい傾向がありました。大事な情報だけ確かめる習慣のほうが頼りになります。
だまされたことが恥ずかしくて、人に言えない。
恥ずかしいと感じるのは自然なことです。ただ、研究では、自分も間違えることがあると認める人ほど、情報を確かめていました。だまされた経験は、確かめる習慣を身につけるきっかけにもなります。話しやすい人に一度話すだけでも、気持ちが軽くなることがあります。
関連記事
偽情報・ディープフェイク選挙のディープフェイクに惑わされないために。研究では、見抜く目より「手口を先に知る」「共有前に止まる」が役に立っていた
偽情報・ディープフェイクAIが書いた偽情報は、人が書いたものよりだまされやすい？研究では、見分けはつかず、説得力も人の文章に近かった
偽情報・ディープフェイク顔写真が勝手にAIで加工されて広まった。ディープフェイク被害のあとは「証拠・報告・相談」の3つ
出典
- Fazio LK, Brashier NM, Payne BK, Marsh EJ (2015). Knowledge does not protect against illusory truth. Journal of Experimental Psychology: General, 144(5), 993-1002. https://doi.org/10.1037/xge0000098
- Lyons BA, Montgomery JM, Guess AM, Nyhan B, Reifler J (2021). Overconfidence in news judgments is associated with false news susceptibility. Proceedings of the National Academy of Sciences, 118(23), e2019527118. https://doi.org/10.1073/pnas.2019527118
- Pennycook G, Rand DG (2019). Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning. Cognition, 188, 39-50. https://doi.org/10.1016/j.cognition.2018.06.011
- Pennycook G, Epstein Z, Mosleh M, Arechar AA, Eckles D, Rand DG (2021). Shifting attention to accuracy can reduce misinformation online. Nature, 592(7855), 590-595. https://doi.org/10.1038/s41586-021-03344-2
- Koetke J, Schumann K, Porter T, Smilo-Morgan I (2023). Fallibility salience increases intellectual humility: Implications for people's willingness to investigate political misinformation. Personality and Social Psychology Bulletin, 49(5), 806-820. https://doi.org/10.1177/01461672221080979