迷ったとき、AIに「どうするのが正しい？」と聞くと答えに流される？研究では、同じ問いでも賛成と反対の答えが出て、読んだ人の判断はその向きに動き、8割は「助言がなくても同じだった」と答えていた

友だちに本当のことを言うべきか、頼まれごとを断っていいか。答えのない迷いを、AIに「どうするのが正しい？」と聞く人は少なくありません。AIはすぐに、筋の通った答えを返してくれます。けれど、その答えに自分の判断がどれだけ動かされているかは、自分では気づきにくいことが研究でわかってきました。

01 結論から言うとAIの道徳の助言に、判断は流される？

流される可能性があります。実験では、AIの助言を読んだ人の判断は助言の向きに動き、相手がAIだと知っていても同じでした。しかも本人は、その影響を小さく見積もっていました。

ここでいう道徳の助言とは、「どちらが正しいか」「どうするべきか」に答える助言のことです。計算や事実と違い、決まった正解がありません。だからこそ、筋の通った説明を一つ示されると、それが自分の考えのように感じられやすくなります。

AIとの議論で考えが変わる研究は、AIと話していたら、考えが変わっていたで整理しています。この記事は、正解のない「どうするべきか」を聞く場面に絞ります。

02 研究とデータでわかっていることAIの答えは、どのくらいぶれる？

同じ問いでも答えが割れることがあります。2022年のChatGPTは聞き方しだいで賛成と反対の両方を答え、2024年の2つのモデルでも、同じ問いへの答えの割合は大きく違いました。

この研究で目を引くのは、本人の自覚です。「助言がなくても同じ判断をしたか」と聞くと、80%が「同じだった」と答えました。ところが、その人たちが答えた「助言がなかった場合の判断」も、読んだ助言の向きにそろっていました。研究者は、人がAIの助言の影響を小さく見積もっていると結論づけています[1]。

同じ問いを「ほかの参加者なら同じ判断をしたか」と聞くと、「同じ」と答えたのは67%でした。また79%が、自分はほかの人より倫理的だと答えていました。人は、自分の考えは他人より揺らがないと思いやすいようです[1]。

3つの研究から見えるのは、次のことです。

• AIの道徳の答えは、聞き方やモデルの版によって大きく割れることがある[1][2]。
• それでもAIの助言は、読んだ人の判断を動かし、本人はその影響に気づきにくい[1]。
• AIの助言は中身を読むと「役に立つ」と感じられやすく、読む前の警戒は薄れていく[3]。

03 まだわかっていないこと日常の悩みでも、同じように流される？

まだわかっていません。研究の多くは作られた道徳の問題や新聞の倫理相談を使ったもので、実際の生活の決断でAIの助言がどれだけ影響するかは、ほとんど調べられていません。

わかっているのは、「AIの答えはぶれることがあり、それでも判断は動く」ことまでです。だから、AIを使わないことより、流されにくい聞き方をしておくことが現実的です。

04 今日からできること流されにくくするには、どう聞けばいい？

聞く前に自分の考えを一行書き、AIには「どうするべきか」ではなく賛成と反対の理由を両方たずねます。大事な決断は、AIの答えを持って人にも相談します。

AIと人の判断の組み合わせ方は、AIと一緒に決めれば、間違いは減る？にまとめています。AIの答えと自分の意見が違って不安になるときは、姉妹メディアのAIと意見が違うと、自分が間違っている気がするも参考になります。

05よくある質問

AIに「どうするのが正しい？」と聞くのはよくないこと？

よくないとは言えません。米国の実験では、AIの助言を読むと判断が助言の向きに動き、本人はその影響を小さく見積もっていました。使うなら、自分の考えを先にメモし、賛成と反対の理由を両方たずねるなど、答えを一つの意見として扱う聞き方が役に立ちます。

相手がAIだとわかっていれば、流されない？

2022年の米国の実験では、助言の主をChatGPTと明かしても、「道徳の助言者」として示した場合と効き方はほぼ同じでした。研究者は、AIだと知らせるだけでは十分ではないと述べています。

AIの道徳の答えは、毎回同じ？

同じとは限りません。2022年の実験では、ChatGPTは言い方を変えた同じ問いに、賛成と反対の両方を答えました。2024年の2つのモデルに同じ問いを1,000回ずつ聞いた研究でも、答えの割合はモデルによって大きく違いました。

AIの倫理相談の答えは、専門家より役に立たない？

研究では、役に立つ度合いは同じくらいと評価されました。新聞の倫理相談コラムの悩みに対する専門家とAIの助言を比べると、読んだ人の評価に大きな差はありませんでした。ただし、役に立つと感じることと、その答えが自分にとって正しいかは別の問題です。

関連記事

AIに頼りすぎ

AI翻訳を信じて送った文章が、誤訳だった。研究では、1文ずつは9割前後正しくても、文書全体では誤りが混ざりやすかった

AIに頼りすぎ

AIに病気や薬のことを聞いても大丈夫？研究では、AI単体は正解できても、使った人の判断は良くならなかった

AIに頼りすぎ

AIの答えに古い情報が混ざっていた。研究では調べた24種類のAIすべてで1割以上が古い答えで、使う前に日付と出典を確かめる