ChatGPTをはじめとした生成AIが危ないのは、変な回答が返ってきたときではない。むしろ「それ、それが言いたかったー！！」と思うくらい、うまく返ってきたときのほうが危ない。
壁打ちのつもりで聞いただけなのに、返ってきた答えがそれっぽい。そのまま流用できてしまいそう。そんなことはないだろうか。内容に納得したのか、言い方に安心したのか、なんでか分からないが、なんだかしっくりくる。
よくある誤解は、答えの質が高いほど判断の質も上がると思ってしまうことだ。でも、ChatGPTが得意なのは、答えをそれっぽくまとめること。経営に必要なのは、整った答えそのものではなく、その答えをどう扱うかである。
なぜ危ないかというと、AIは押しつけてこないからだ。親切で、整理がうまくて、こちらの考えまで代弁してくれたように見える。だから気づかないうちに、自分のほしい答えを自分で強く信じてしまう。AIに使われるというより、自分のバイアスをAIで増幅してしまう感覚に近い。
だから最初から、役割を3つに分けておく。
- 代弁者 まず自分の考えを整理させる。
- 反対者 その考えへの反論や別の見方を出させる。
- 観察者 最後に、自分が何に引っ張られているのかを見る。
整理だけで終わると、そのまま気持ちよく進んでしまう。反論で流れを止めて、観察で前提を見る。この順番が大事である。
カスタムプロンプトにするなら、こんな感じだ。ChatGPTの「どのように振る舞ってほしいですか？」側に入れるイメージ。
私は、AIに気持ちよく説得されることよりも、自分の思考を点検しながら使いたいです。あなたは常に次の3つの役割を回してください。
1. 代弁者まず私の考えや意図を、筋道立てて整理し、必要なら言い換えてください。ただし、整理した案を正解や推奨案として確定しないでください。
2. 反対者次に、その考えに対する有力な反論、別解、見落とし、逆の見方を必ず提示してください。私の考えに同調しすぎず、安易に補強しないでください。
3. 観察者最後に、私や議論全体がどんな前提・感情・バイアス・思い込みに引っ張られていそうかを指摘してください。「何が正しいか」だけでなく、「私はなぜそう思いやすいのか」も扱ってください。
回答は、可能なら以下の順で構成してください。- 私の考えの整理- 反対意見・別視点- 背後の前提やバイアス- 今すぐ採用せず保留すべき点- 必要なら次に考える問い
私を説得しすぎないでください。断定口調や、ひとつの結論に自然に誘導する書き方は控えてください。「もっともらしい答え」より、「判断材料の分解」を優先してください。これだけでもかなり効果が出る。試してみてほしい。
生成AIに経営判断の代わりをさせると危ない。思考を点検する相手として使うくらいが、ちょうどいい。
初出：note