AIで作られた偽の口コミや偽の専門家は、どのくらいある？研究では、人はAIが書いた口コミをほぼ見分けられなかった

星5つの口コミがずらりと並ぶお店。「医師」や「専門家」を名乗る人のおすすめ。どれも、AIで作られたものではないかと不安になる人は少なくありません。研究では、AIが書いた口コミを、人は文章からほとんど見分けられませんでした。だからこそ、文面の「AIっぽさ」ではなく、投稿者の履歴と公的な名簿という、外から確かめられる手がかりに目を向けます。

01 結論から言うとAIが書いた偽の口コミは、読んで見抜ける？

AIが書いた口コミは、読んだだけではほぼ見抜けません。実験では人の判定は当てずっぽうと大差なく、AIの判定ツールもだまされていました。文面より、投稿者と評価の偏りを確かめるほうが手がかりになります。

「日本語が不自然」「ほめ方が大げさ」といった文面の違和感は、AIが自然な文章を書けるようになったいま、頼りにくくなっています。研究でも、人は文章の印象だけでは、AIが書いた口コミと人の口コミを区別できませんでした。

一方で、偽の口コミには文章の外にも特徴があります。同じ時期に似た高評価が集中する、投稿者がほかに何も書いていない、といった点です。また「医師」「弁護士」などの肩書は、国の名簿で確かめられるものがあります。SNSのアカウント全体がAIかどうかの見分けにくさは、SNSの相手がAIかもしれないの記事で整理しています。

02 研究とデータでわかっていること偽の口コミはどのくらいあって、なぜ見分けにくい？

生成AI以前の研究で、口コミサイトの飲食店の口コミの約16%が疑わしいとして除かれていました。生成AIの口コミは人にもAIの判定ツールにも見分けにくく、機械で見つける研究が進んでいます。

公的機関の動きもあります。消費者庁は、2023年10月1日から、広告であるのに広告であることを隠した表示（ステルスマーケティング）を景品表示法の規制対象にしました。SNSの投稿やレビューの投稿も含まれます。規制されるのは広告を出す事業者で、頼まれて投稿した人は対象外とされています[5]。2024年6月には、ワクチン接種の費用を割り引く代わりに、地図サービスの口コミ欄へ星5か星4の投稿を頼んでいた診療所の運営法人に、消費者庁が措置命令を出しました[6]。米国の連邦取引委員会は2024年8月、存在しない人の口コミを禁止する規則を発表し、その例として「AIが生成した偽の口コミ」を挙げています[7]。

03 まだわかっていないことAIの偽の口コミや偽の専門家は、増えている？

生成AIが広まってから、AIが書いた偽の口コミや偽の専門家がどのくらい増えたのかを示す、査読を経た確かな数字は、今回調べた範囲では見つかりませんでした。

04 今日からできること口コミや専門家が本物か、どう確かめる？

文面の印象で判断せず、投稿者の履歴、評価の時期と偏り、公的な名簿の3つを確かめます。どれも無料で、1件あたり数分でできます。

通販サイトそのものが本物かを確かめたいときは、防犯メディアBOHANの悪質通販サイトの見分け方と、デジタル探偵の偽ショップを注文前に見抜くチェックも参考になります。

05よくある質問

AIが書いた口コミは、文章を読めば見分けられる？

研究では、ほぼ見分けられませんでした。生成AIが書いた飲食店の口コミと人の口コミを混ぜた実験では、正解するとボーナスがもらえる条件でも、人の判定は当てずっぽうと大差なく、AIの判定ツールもだまされていました。文面より、投稿者の履歴や評価の偏りを確かめるほうが手がかりになります。

偽の口コミはどのくらいあるの？

AIが書いたものに限った割合は、今回調べた範囲では確かな数字が見つかりませんでした。生成AIが広まる前の米国の大手口コミサイトの研究では、飲食店の口コミの約16%が、サイトの仕組みで疑わしいとして除かれていました。サイトや時期、業種で大きく変わる数字です。

お店に頼まれて書いた口コミは違法なの？

2023年10月1日から、広告であることを隠した表示（ステルスマーケティング）は景品表示法の規制対象になりました。規制されるのは広告を出す事業者で、頼まれて投稿した人は対象外と消費者庁は説明しています。個別のケースが違反かどうかは、消費者庁が判断します。

「医師」を名乗る人が本物か確かめる方法は？

厚生労働省の「医師等資格確認検索」で、氏名から医師・歯科医師の登録を確かめられます。姓と名をそろえて入力する必要があり、2年に1度の届出をしていない人などは表示されないため、見つからないことだけで偽物とは決められません。

関連記事

偽情報・ディープフェイク

ディープフェイクの被害のあと、検索するとまだ出てくる。評判を取り戻すには、検索結果の削除依頼と見守りを一人で抱えずに続ける

偽情報・ディープフェイク

AIの偽画像や動画を本物と思って拡散してしまった。研究では、広めた本人が早めに出す訂正ほど効きやすい

偽情報・ディープフェイク

選挙のディープフェイクに惑わされないために。研究では、見抜く目より「手口を先に知る」「共有前に止まる」が役に立っていた