AIの文章の候補を使っていると、自分の意見まで変わる？研究では偏った候補で考えが寄り、注意書きでは防げなかった。先に自分の考えを書いておく

意見文や感想、SNSの投稿を書くとき、AIが続きの文を提案してくれる。便利な一方で、「書き終えたら、最初に思っていたことと少し違う」と感じたことはありませんか。2,582人が参加した実験では、一方に偏ったAIの候補を見ながら書いた人の意見が、AIの側に寄っていました。しかも多くの人は、そのことに気づいていませんでした。この記事では、研究でわかっていることと、意見を書く前に決めておける使い方を整理します。

01 結論から言うとAIの書く手伝いで、自分の意見は変わるの？

変わりうることが、実験で確かめられています。偏った候補を見ながら書くと、意見がAIの側に寄りました。変化は大きくはありませんが、本人が気づきにくく、注意書きでも防げなかった点が重要です。

文章を書くAIには、入力の途中で続きの文を提案する機能があります。いわゆる「候補」や「オートコンプリート」です。候補は書く手間を減らしてくれますが、どの言葉を選ぶかには、AIの考え方の傾向が入りえます。

ここで紹介する研究は、AIを使わないように勧めるものではありません。意見を書くときの「使う順番」を決めておけば、便利さを残したまま、自分の考えを守りやすくなるかもしれない、という話です。

AIでアイデアを出すと案が似通う問題はAIでアイデアを出すと、みんな似た案になる？で、書く力を残す使い方はAIに頼りすぎて、文章が書けなくならないか心配で整理しています。

02 研究とデータでわかっていること偏った候補で、意見はどのくらい変わった？

意見文を書いたあとの賛否が、5段階の尺度でAIの立場に0.44ポイント寄りました。数週間前の本人の意見と比べても寄っており、同じ内容を一覧で読んだだけの人より変化が大きくなっていました。

では、どうすれば影響を受けにくくなるのか。意見文の場面で確かめた研究は、今回は見つかりませんでした。近い手がかりになるのが、判断の順番を変える実験です。

03 まだわかっていないことふだん使うAIの候補でも、同じことが起きる？

わかっていません。実験の候補は研究者がわざと偏らせたもので、ふだんのサービスの候補がどのくらい偏っているか、意見の変化がどのくらい続くかは、まだ調べられていません。

04 今日からできること意見を書く前に、何を決めておけばいい？

意見を書くときは、AIを開く前に自分の考えを1〜3行書いておき、AIは書き終えてからの言い回しの確認に回します。書き終えたら最初のメモと見比べ、変わった点に自分で納得できるか確かめます。

注意書きだけでは防げなかったという結果は、「気をつけていれば大丈夫」とは限らないことを示しています。だからこそ、気持ちではなく順番で守るのが現実的です。AIと意見が食い違うと自分が間違っている気がする、という悩みについては、姉妹メディアのAIと意見が違うと、自分が間違っている気がするが参考になります。AIに直してもらううちに文章の個性が薄れる問題は、AIに直してもらううちに、自分の文章らしさが消えた気がするで整理しています。

05よくある質問

AIの候補を採用しなければ、意見は変わらない？

そうとは限りません。2,582人の実験では、AIの候補を1つも採用しなかった人も含めた集計で、意見がAIの側に寄っていました。候補を読むだけでも、考えるきっかけになっている可能性があります。

「AIは偏っているかも」と気をつけていれば防げる？

注意書きだけでは十分ではありませんでした。書く前に「AIの候補はあなたと違う意見を支持しているかもしれない」と伝えられた人でも、意見はAIの側に寄っていました。気をつける気持ちに加えて、使い方の順番を決めておくことが手がかりになります。

ふだん使うAIの候補も、意図的に偏っているの？

この研究では、研究者がわざと一方の意見に寄せた候補を作りました。ふだんのサービスの候補がどのくらい偏っているかは、この研究では調べていません。ただ研究者は、AIの文章には学習した文章の偏りが入りうると指摘しています。

関連記事

考える力・集中

AIで作った資料なのに、質問されて答えられなかった。研究では、AIを使うと「わかったつもり」になりやすく、次は自分の言葉で説明し直すのが手がかり

考える力・集中

AIなしだと、考えたり書いたりする手が止まる。試験や面接の前は、白紙から思い出す練習を本番の形でくり返す

考える力・集中

AIでアイデアを出すと、みんな似た案になる？研究では一人ひとりの案は良くなっても、案どうしは似ていた。使う前に決めておく3つのこと