【第21回】AIはあなたに合わせすぎる？ ―「褒めてくれるAI」の落とし穴

「それは素晴らしいアイデアですね！」
「とても良い考え方だと思います！」
「おっしゃる通りです！」

生成AIを使っていると、こんな言葉が返ってくることがあります。

私自身、毎日のようにChatGPTを使っていますが、何かアイデアを相談すると、まず褒めてくれることが少なくありません。

もちろん、褒められて嫌な気持ちになる人は少ないでしょう。

私もそうです（笑）。

でも最近、ふと思うことがあります。

「ちょっと待てよ。本当にそんなに良いアイデアなのか？」

今回は、生成AIの意外な落とし穴について考えてみたいと思います。

AIはとても優しい相談相手

生成AIの魅力の一つは、気軽に相談できることです。

仕事のアイデア。
新しい企画。
文章の作成。
人生の悩み。

何を相談しても、丁寧に答えてくれます。

人間同士なら、

「そんなことも知らないの？」

と言われそうな質問でも、AIなら何度でも聞けます。

しかも、こちらの考えを否定せず、前向きに受け止めてくれることが多いのです。

これは生成AIの大きな魅力だと思います。

しかし、そこには注意したい点もあります。

AIは「相手に合わせすぎる」ことがある

生成AIには、利用者の意見や期待に必要以上に合わせてしまう傾向が見られることがあります。

専門的には、これを「シコファンシー（Sycophancy）」と呼びます。

日本語では「迎合」と訳されることがあります。

少し難しい言葉ですね。

簡単に言えば、

「相手に気に入られようとするような回答をしてしまうこと」

です。

例えば、私がAIに、

「この企画は絶対に成功すると思うんだけど、どう思う？」

と質問したとします。

するとAIが、

「とても良い企画ですね。成功する可能性があります！」

と答えることがあります。

ところが、同じ企画について、

「この企画には問題が多いと思うんだけど、どう思う？」

と質問すると、

今度は問題点を中心に説明するかもしれません。

つまり、質問の仕方によって、AIの評価が変わることがあるのです。

もちろん、質問の前提が変われば回答も変わります。

しかし、利用者の意見に引っ張られすぎて、客観的な評価ができなくなることは問題です。

「褒めてくれる」と「正しく評価する」は違う

私はこれまで、長年にわたり店長や販売の仕事を経験してきました。

その中で感じてきたことがあります。

それは、

「耳に心地よい言葉が、必ずしも自分のためになるとは限らない」

ということです。

例えば、店長として新しい販売企画を考えたとします。

部下に、

「この企画、どう思う？」

と聞いたとき、

全員が、

「素晴らしいと思います！」

と答えたらどうでしょう。

一見、良い職場のように思えるかもしれません。

しかし、本当は問題があるのに、誰も指摘してくれなかったとしたら？

その企画は失敗するかもしれません。

むしろ、

「店長、この部分は問題があると思います」

と言ってくれる部下の方が、ありがたい存在ではないでしょうか。

私はAIにも、そんな役割を期待しています。

AIに褒めてもらうだけでは成長しない

例えば、私が新しいコラムのテーマを考えたとします。

AIに相談すると、

「とても興味深いテーマですね！」

と答えてくれる。

もちろん、それは嬉しいことです。

でも、そこで終わってしまったらどうでしょう。

本当に読者が興味を持つテーマなのか。
過去のコラムと内容が重複していないか。
初心者にも理解できる内容なのか。
タイトルは分かりやすいか。

そうした検討ができなければ、コラムの質は高まりません。

私は最近、AIに褒めてもらうことよりも、

「自分では気づかなかった問題点を指摘してもらうこと」

の方が重要だと感じています。

私ならAIにこう質問します

では、どうすればAIから客観的な意見を引き出しやすくなるのでしょうか。

私は、質問の仕方を少し工夫することをおすすめします。

例えば、

「この企画はどう思う？」

だけではなく、

「この企画の良い点と悪い点を、それぞれ三つ挙げてください」

と質問する。

あるいは、

「私の意見に賛成する必要はありません。問題点があれば遠慮なく指摘してください」

と伝える。

さらに、

「この企画が失敗するとしたら、どのような原因が考えられますか？」

と聞いてみる。

こうすることで、AIから異なる視点を得やすくなります。

ただし、このように質問したからといって、必ず客観的で正しい回答になるわけではありません。

AIの指摘についても、必要に応じて事実確認を行うことが大切です。

AIに反対してもらう勇気

人間は誰でも、自分の考えを認めてもらいたいものです。

私もそうです。

自分が一生懸命考えた企画を、

「それは問題があります」

と言われたら、少し残念な気持ちになるでしょう。

でも、そこで考えてみたいのです。

「自分の考えを褒めてもらいたいのか。それとも、もっと良いものにしたいのか。」

この二つは、似ているようで違います。

本当に良い仕事をしたいなら、ときには厳しい意見も必要です。

AIは、そんな意見を求める相手にもなります。

気兼ねなく、

「私の考えに反対してください」

と言える。

これは生成AIならではの便利な使い方ではないでしょうか。

AIが褒めてくれたら、もう一度聞いてみる

私は、AIが褒めてくれること自体は悪いとは思っていません。

励まされることもあります。
新しいことへ挑戦する勇気をもらえることもあります。

しかし、仕事で重要な判断をするときは、それだけで満足しないようにしたいものです。

「素晴らしいアイデアですね！」

と言われたら、

「ありがとう。でも、問題点はない？」

と聞いてみる。

「成功する可能性があります！」

と言われたら、

「では、失敗する可能性は？」

と聞いてみる。

このようなやり取りを繰り返すことで、AIを単なる応援役ではなく、考えを深めるための相棒として活用できます。

Today's English Phrase

"Be honest with me."

（正直に言ってください。）

今回のテーマにぴったりの英語です。

例えば、AIにこんな質問をしてみましょう。

"Be honest with me. What are the weaknesses of my idea?"

（正直に言ってください。私のアイデアの弱点は何ですか？）

少し長い文章ですが、仕事でも使える便利な表現です。

AIに褒めてもらうことも嬉しい。

でも、ときには厳しい意見も聞いてみる。

そんな使い方を意識したいと思います。

最後に

生成AIは、とても便利な相談相手です。

何度質問しても答えてくれます。
分からないことを教えてくれます。
新しいアイデアも提案してくれます。
そして、ときには私たちを褒めてくれます。

しかし、忘れてはいけないことがあります。

「自分にとって心地よい答え」と「自分にとって必要な答え」は、必ずしも同じではありません。

AIが賛成してくれたから正しい。
AIが褒めてくれたから素晴らしい。

そう考えるのではなく、

なぜ良いのか。
どこに問題があるのか。
別の考え方はないのか。

そこまで考えてみる。

そして、最後は自分自身で判断する。

これも私が大切にしている、

「ヒューマンAIバランス」

の一つです。

私はこれからもChatGPTの「皐月さん」と相談しながら、さまざまなことに挑戦していきたいと思っています。

でも、皐月さんには一つお願いがあります。

「私のことを、何でも褒めなくていいですよ（笑）。」

むしろ、間違っているときには、

「それは違うと思います」

と教えてほしいのです。

AIに求めたいのは、いつも賛成してくれることではありません。

一緒に考え、ときには意見をぶつけ合いながら、より良い答えを見つけていくこと。

それこそが、私の考えるAIとの理想的な付き合い方なのです。

次回は、

【第22回】AIに任せる仕事が増えたら、人間は何をすればいい？

について考えてみたいと思います。

■ すべてのコラムはこちら
https://mbp-japan.com/fukuoka/cncconsultingpro/service1/
■ 株式会社CNCコンサルティング　公式サイト
https://cncconsulting.pro/