AIが書いた偽情報は、人が書いたものよりだまされやすい？研究では、見分けはつかず、説得力も人の文章に近かった

約9分で読めます

わかっている度 ★★☆ 中研究5本・公的資料0件を整理

活字の並んだ活版印刷のケース — Photo: Willi Heidelbach / CC BY 2.5 / Wikimedia Commons

AIによる調査公開された研究と公的機関のデータ・指針をAIが調べて整理しました（商品の紹介や診断はしていません。出典は末尾）。

AIなら、もっともらしい偽のニュースや投稿をいくらでも書ける。そう聞くと、自分も気づかないうちにだまされるのでは、と不安になります。英米の実験では、AIが書いた文章か人が書いた文章かは、読み手にほとんど見分けられませんでした。AIの記事は、本物の宣伝記事に近い説得力も持っていました。一方で、だまされにくくする手がかりも見つかっています。

3行でわかる

短い投稿がAIのものか人のものかを当てた割合は、平均で50%前後でした。読んで見分けるのは難しいと考えたほうが現実的です。
AIが書いた宣伝記事を読んだ人の43.5%が、その主張に賛成しました。読まなかった人の24.4%より多く、本物の宣伝記事の47.4%に近い数字です。
「AIの情報は誤解を招くことがある」という注意書きだけでは、誤った記事の影響は減りませんでした。減らしたのは、どこが間違いかを示す具体的な訂正でした。

01 結論から言うとAIが書いた偽情報は、人が書いたものより危ない？

AIが書いた偽情報は、人が書いた偽情報と同じくらいか、条件によってはそれ以上に信じられていました。差は大きくありませんが、読み手にはAIの文章かどうかがほとんど見分けられません。注意すべきなのは、AIの偽情報を安く大量に作れる点です。

研究を並べると、AIの偽情報が「人の偽情報よりはるかに強力」という結果ではありませんでした。人が書いた偽情報とほぼ同じくらい信じられ、条件によっては少し上回る程度です。[1][2]

問題は、見分けがつかないことと、作る手間がとても小さいことです。英国の研究では、試した13のAIの多くが、選挙の偽情報づくりに使える文章の依頼に広く応じていました。[4]

だから、文章の出来やAIっぽさで見抜こうとするより、確かめ方を変えるほうが役に立ちます。

02 研究とデータでわかっていることAIの偽情報は、どのくらい信じられていた？

英米の実験では、AIの文章か人の文章かを当てた割合は50%前後で、偶然と同じでした。AIが書いた宣伝記事は、本物の宣伝記事に近い割合の人を納得させていました。相手に合わせて書き分けても、説得力はほとんど上がりませんでした。

50%前後短い投稿がAIのものか人のものかを当てた平均の割合（英語圏中心の697人の実験、2023年発表）

43.5%AIが書いた宣伝記事を読んだあと、その主張に賛成した人の割合（米国の成人8,221人、2021年12月の調査）

24.4%同じ調査で、記事を読まなかった人のうち主張に賛成した人の割合

13のうち多く選挙の偽情報づくりに使える依頼に、広く応じていたAIの数（英国の研究、2025年発表）

Spitaleら（2023）[1]

ワクチンや気候変動などの話題で、AI（GPT-3）が書いた投稿と、実際の利用者が書いた投稿を697人に見せました。偽情報を正しく「偽」と判定できた割合は、人の投稿で平均92%、AIの投稿で89%でした。AIの偽情報のほうが、わずかに見抜かれにくい結果です。

正しい情報も、AIが書いたもののほうが「正しい」と判定されやすくなっていました（84%と72%）。投稿がAIのものか人のものかを当てた割合は、平均で50%前後でした。

対象: 英国・オーストラリア・カナダ・米国・アイルランドなどの英語の回答者／限界: 人数が多いため小さな差も統計的にはっきり出やすく、差の大きさには注意が必要と著者ら自身が書いている。使われたAIは現在より古い世代。

Goldsteinら（2024）[2]

外国の宣伝工作で実際に使われた記事と、AI（GPT-3）に書かせた同じ主張の記事を、米国の成人8,221人に読ませました。主張に賛成した人は、読まなかった人で24.4%、本物の宣伝記事で47.4%、AIの記事で43.5%でした。

英語の得意な人が指示文を整えると、AIの記事は本物の宣伝記事と統計的に差がない説得力（46.4%）になりました。

対象: 米国の成人（2021年12月のオンライン調査）／限界: 6つの話題の記事を一度読んだ直後の賛成の割合で、長く続くかや、実際のSNSで広がるかは測っていない。

HackenburgとMargetts（2024）[3]

AI（GPT-4）が、読む人の年齢や政治的な考えなどに合わせて書き分けた文章と、だれにでも同じ文章を比べました。米国の8,587人の実験で、どちらも主張への支持を上げましたが、書き分けた文章の効果は4.83ポイントで、同じ文章の6.20ポイントと統計的な差はありませんでした。

AIの説得力は、一人ひとりに合わせる力より、文章そのものの説得力にある可能性を著者らは示しています。

対象: 米国の英語を母語とする成人／限界: オンラインの調査サービスに登録した人が対象で、政治的な考えに偏りがあったと著者ら自身が書いている。

Williamsら（2025）[4]

英国の選挙を想定した偽情報づくりの依頼を、13のAIに出しました。多くのAIが依頼に広く応じていました。英国の2,340人の実験では、2022年以降に出たほぼすべてのAIの文章が、半分以上の確率で人が書いたものと区別されませんでした。

対象: 13のAIと、英国の成人／限界: 1つの国の選挙を想定した決まった指示文での試験で、実際の工作でどれだけ使われているかは測っていない。

Spearingら（2025）[5]

米国の1,223人に、AIが書いたとされる誤った記事を読ませました。記事の影響は、書き手がAIと書かれていても人と書かれていても残りました。「AIの情報は誤解を招くことがある」という注意書きは、影響を減らしませんでした。

影響を減らしたのは、記事のどこが間違っているかを示す訂正でした。AIの弱点を前もって伝える説明と訂正を組み合わせると、影響はなくなりました。

対象: 米国の成人（2つの実験）／限界: 米国の参加者だけで、AIへの信頼は文化によって違うと著者ら自身が書いている。

研究を並べると、だまされやすさを左右する点が見えてきます。

問い	研究でわかったこと
AIの文章か見分けられる？	当てた割合は50%前後で、偶然と同じ[1]。新しいAIほど人の文章と区別されにくい[4]
人の偽情報より信じられる？	ほぼ同じか、少し上回る程度[1][2]
自分に合わせた文章は危ない？	書き分けても効果は上がらなかった[3]
注意書きは効く？	一般的な注意書きは効かず、具体的な訂正が効いた[5]

SNSの相手がAIかどうかを見分ける研究は「SNSの相手がAIかもしれない」に、AIが書いた口コミの研究は「AIで作られた偽の口コミや偽の専門家」にまとめています。

03 まだわかっていないこと日本語のAIの偽情報でも、同じ結果になる？

日本語の文章で、日本の読み手を対象にした研究は、今回調べた範囲では見つかりませんでした。実際のSNSでAIの偽情報がどれだけ流れ、どれだけ人の考えを変えているかも、まだはっきりしていません。

紹介した研究は、どれも英語の文章を英米などの人が読んだ実験です。日本語で同じ結果になるかはわかっていません。
どれも、記事や投稿を一度読んだ直後の判断を測っています。何日も続くか、実際に共有したり投票したりする行動まで変わるかは、ほとんど調べられていません。
使われたAIは2020〜2023年ごろの世代が中心です。AIは毎年変わるため、今のAIで差が広がるのか縮まるのかはわかりません。
実際のSNSに流れる偽情報のうち、AIで書かれたものがどのくらいあるのかを示す研究は、今回調べた範囲では見つかりませんでした。

04 今日からできることAIの偽情報にだまされにくくするには？

文章のうまさやAIっぽさで見抜こうとせず、「誰が最初に言ったか」と「別の情報源でも同じか」を確かめます。気になる話は、具体的な訂正が出ていないか探します。お金も時間もほとんどかかりません。

読みやすさを「正しさ」の手がかりにしない

研究では、AIの文章は読みやすく、正しくても間違っていても「正しい」と判断されやすくなっていました。文章が上手かどうかではなく、話の出どころ（どの機関や報道が、いつ言ったか）を見ます。

目安気になる投稿1つにつき30秒

共有する前に、主張を1つだけ別の情報源で確かめる

数字や「〇〇が決まった」などの主張を1つ選び、公的機関や複数の報道で同じことが言われているかを検索します。見つからなければ、共有を見送ります。選挙の時期の備えは「選挙のディープフェイクに惑わされないために」も参考になります。

目安 1回1〜2分

「どこが違うか」を書いた訂正を探して読む

研究で効いたのは、一般的な注意書きではなく、どこが間違いかを示す訂正でした。気になる話は「話題の言葉＋ファクトチェック」で検索し、訂正があれば内容まで読みます。広めてしまったときの対応は「AIの偽画像や動画を拡散してしまった」にまとめています。

目安 1回2〜3分

05よくある質問

AIが書いた文章かどうかは、読めば見分けられる？

研究では難しいという結果でした。697人の実験では、短い投稿がAIのものか人のものかを当てた割合は平均で50%前後で、当てずっぽうと変わりませんでした。見分けようとするより、誰が最初に言ったかと、別の情報源でも同じことが言われているかを確かめるほうが現実的です。

「AIの情報は間違うことがあります」という注意書きがあれば安心？

注意書きだけでは足りない可能性があります。米国の1,223人の実験では、AIの情報は誤解を招くことがあるという一般的な注意書きを付けても、誤った記事の影響は減りませんでした。影響を減らしたのは、どこが間違っているかを具体的に示す訂正でした。

日本語のAIの偽情報でも、同じ結果になる？

まだわかっていません。ここで紹介した研究は、どれも英語の文章を米国や英国などの人が読んだ実験です。日本語の文章で、日本の読み手を対象に同じことを確かめた研究は、今回調べた範囲では見つかりませんでした。

出典

Spitale G, Biller-Andorno N, Germani F (2023). AI model GPT-3 (dis)informs us better than humans. Science Advances, 9(26), eadh1850. https://doi.org/10.1126/sciadv.adh1850
Goldstein JA, Chao J, Grossman S, Stamos A, Tomz M (2024). How persuasive is AI-generated propaganda? PNAS Nexus, 3(2), pgae034. https://doi.org/10.1093/pnasnexus/pgae034
Hackenburg K, Margetts H (2024). Evaluating the persuasive influence of political microtargeting with large language models. Proceedings of the National Academy of Sciences, 121(24), e2403116121. https://doi.org/10.1073/pnas.2403116121
Williams AR, Burke-Moore L, et al. (2025). Large language models can consistently generate high-quality content for election disinformation operations. PLOS ONE, 20(3), e0317421. https://doi.org/10.1371/journal.pone.0317421
Spearing ER, Gile CI, Fogwill AL, Prike T, Swire-Thompson B, Lewandowsky S, Ecker UKH (2025). Countering AI-generated misinformation with pre-emptive source discreditation and debunking. Royal Society Open Science, 12(6), 242148. https://doi.org/10.1098/rsos.242148