仕事でAIを使ってミスしたら、責任は自分？研究では、AIをよく知らない人ほど使った人を責めやすく、使う前に「任せる範囲と確かめ方」を周りと共有しておくことが備えになる

会社でAIを使うよう言われたけれど、もしAIの間違いに気づかずミスをしたら、自分のせいになるのだろうか。そんな不安を抱えて働いている人は少なくありません。研究では、責任の受け止め方は「周りがAIをどれだけ知っているか」で変わっていました。だからこそ、使う前の準備で変えられる部分があります。

01 結論から言うとAIのミスは、使った人のせいになる？

実験では、AIの働きを前もって知らないと、使った人の責任が重く見られやすい傾向がありました。法的な責任は個別の事情で決まるため断定できませんが、使う前に任せる範囲と確かめ方を共有しておくことで、ミスが起きたときの話し合いの土台が変わります。

AIのミスは、AIを作った会社、AIを導入した職場、使った本人の誰の責任なのか。研究者のあいだでも議論が続いています。ただ、実験でわかってきたのは、責任の受け止め方は固定されたものではなく、周りの人がAIについて何を知っているかで動くということです。

ここでいう「責任」は、法律上の責任ではなく、周りの人が「誰のせいだと感じるか」です。職場で問題になるのは、多くの場合まずこちらです。

02 研究とデータでわかっていることAIを使って失敗した人は、どう見られる？

日本の実験では、AIの働きを前もって知らない人ほど使った人を責め、知っている人はAIそのものにも責任を分けていました。AIに従ったかどうかより、普段のやり方と比べて判断が妥当だったかが見られていました。

この結果は、AIのことを知らない上司や同僚ほど、ミスを「使った人のせい」と受け止めやすい可能性を示しています。使い始める前にAIの得意・不得意を共有しておくことは、ミスを防ぐだけでなく、起きたときの受け止め方にも関わります。

「AIの言うとおりにしたから大丈夫」とは言い切れない、ということです。評価の物差しは、その仕事の普段のやり方でした。AIの答えが普段のやり方と違うときほど、なぜそれを選んだのかを説明できるようにしておく必要があります。

専門家でも、AIの厳しすぎる間違いは見逃す向きがあったということです。「最後に人が確かめる」だけでは足りず、何をどう確かめるかを決めておく必要があります。AIの出力によくある間違いの見つけ方は仕事でAIに作らせた文章や資料、そのまま出して大丈夫？にまとめています。

03 まだわかっていないこと職場で実際に責任はどう分けられる？

実際の職場で、AIのミスの責任がどう分けられているかを調べた研究はまだ少なく、上の実験はどれも架空の場面です。法的な責任は、契約や就業規則などの個別の事情で決まります。

04 今日からできること使う前に、何を決めておけばいい？

使い始める前に、AIに任せる作業、確かめる人と方法、AIの答えが普段のやり方と違うときの扱いを上司と決め、確かめた記録を残します。職場のルールがなければ、まず確認を求めるところから始めます。

職場にAIの使い方のルールがないときは、職場にAIを使うルールがないで、会社に確認しておきたい点をまとめています。

05よくある質問

仕事でAIを使ってミスしたら、法律上の責任は誰になる？

この記事では判断できません。会社との契約、就業規則、ミスの内容、AIの使い方を会社が認めていたかなど、個別の事情で変わるためです。不安なときは、社内の担当部署か、労働問題の相談窓口に、事実を整理してから相談します。

AIの提案に従っておけば、責められにくい？

いつもそうとは限りません。アメリカとドイツの実験では、AIが普段どおりのやり方を勧めたときは従った医師が妥当と見られましたが、AIが普段と違うやり方を勧めたときは、従っても従わなくても評価は同じでした。この実験では、AIに従ったかどうかだけでなく、AIの提案が普段のやり方どおりかどうかで評価が変わっていました。

会社がAIの使用を勧めているのに、ミスは自分のせい？

研究では、周りがAIをよく知らないと、使った人に責任が寄りやすい傾向が出ていました。会社が使用を勧めている場合こそ、どの作業に使ってよいか、誰が最後に確かめるかを、使い始める前に上司と決めておくと、ミスが起きたときに話し合いやすくなります。

関連記事

仕事・キャリア

職場にAIを使うルールがない。国のAI事業者ガイドラインで、働く人が確認しておきたいこと

仕事・キャリア

AIで仕事を失ったあと、生活と自信を立て直したい。研究では、仕事がくれていた「時間・人・役割」を補うことが手がかりだった

仕事・キャリア

AIで翻訳やイラストの依頼が減った。研究では文章・画像の募集が約2割減。フリーランスが使える法律と相談先