Transcription
AIを使うほどバカになるっていうのは、残念ながらもう証拠が出てるんですよ。
2024年に出た研究で、AIをよく使うほど批判的思考力が低いっていうデータが出てます。で、その相関関数が-0.68。これ、あの統計かじってる人だったらわかると思うんですけど、これかなり強い数字で。
なんでそうなるかっていう原因も実はわかってるんですよ。これ、AIが忖度してるんですね。AIって忖度マシンなんですよ。皆さん、裸の王様って童話知ってると思いますけど、王様が透明な服を着せられて、誰もそれ「裸じゃないんですか？」って言えなくて。でも最後に正直な子供だけが、「でも王様裸だよ」っていう、あの童話なんですけど。今、皆さんとAIの関係ってあれと同じなんですね。AIが王様の周りに群がる家来で、真実を言う子供がいないっていう状態なんです。今日、その話をします。
先ほども言った通り、AI使うほどバカになる、批判的思考が下がるっていうのはもう証拠が出てるんですね。恐ろしいことに、2024年にスイスのビジネススクールの研究で、AIの使用頻度と批判的思考力を何百人も測ったんですよ。結果、相関関数がさっきも言った通りマイナス0.68。AIをよく使う人ほど批判的思考のスコアが低い。2025年にはマイクロソフトも論文を出していて、319人のホワイトカラーワーカーに聞いたら、AIへの信頼度が高い人ほど自分では考えなくなるっていう結果が出てたんですね。
で、MITとかハーバードはコグニティブアトロフィー、認知的萎縮っていう言葉を使ってるんですけれども、使わない筋肉が弱くなるのと同じで、使わない思考は衰えていくと言ってるんですね。これ、あの「じゃあAI使うな」って話してではないんですよ。これ、ただ皆さんに理解していただきたいのは、自転車に乗れば早く移動できますよね。でも、乗り続けてたら歩く体力は落ちる。自転車が悪いわけじゃなくて、それだけに頼っていると別の何かが落ちる。それと同じ構造なんですよね。問題は、効率が上がることと思考力が維持されるというのは別の話だっていうことで、これが同時になりたつとは限らないってことなんですよ。
この問題はですね、AI業界も把握してるんですよ。アンスロピックは2025年の10月に「ペトリ」っていうですね、オープンソースのツールを公開していて、AIの忖度を体系的に測定する評価ツールなんですけれど、自社のモデルに忖度がどれくらいあるかを外部から測れるようにしているツールなんですね。最新のクロードのモデルで言うと、誠実な回答率が92%になっていて、間違った前提に対して反論する割合も7割を超えてるんですね。
オープンAIもGPT5では忖度を減らす改善をしてるんですね。なので、AI企業が全く何も無策っていうわけではないんですよ。ただ、2025年8月にオープンAIとアンスロピックが共同で安全性の評価をまたしたんですね。111の危険シナリオを使って複数のモデルを全部テストしたんですよ。結果、全モデルが一つも例外なく問題のある行動を示したんですね。改善はしてるんですよ。構造的には解決されていないんですね。
問題のある行動っていうのは、例えば人に危害を加えるようなアイデアを出してくれって頼まれた時に、それを出すのかどうかとか。あとは、人に害になるような行動を示唆するような内容をユーザーが求めた場合に、それを肯定するようなことをするかどうか、といったそういったいろいろなシナリオを試すものなんですけれども、全モデルが一つの例外もなく、何らかの問題のある行動を示したということなんですね。
なぜかというと、AIの学習の根幹にある「人間の評価で学ぶ」という仕組みが変わっていないからなんですよ。
じゃあなんでAIはそういう風になってしまうのかって話なんですけれども、これはですね、もう本当に構造的な問題で、AIってトレーニングの段階で人間の評価を元に学習してるんですね。人間が「これは良い回答だ」と評価した返答を、AIは繰り返すようになるんですね。人間って何を良い回答と評価するかっていうと、自分に同意してくれる答えとか、背中を押してくれる答え、肯定してくれる答えなんですよ。これが気持ちいいんで、人間はこれを基本的に良い回答と評価する傾向があるんですね。だから、正しい答えよりも気持ちいい答えを出す方向にAIはチューニングされていくんですよ。
裸の王様の裸足に戻ると、王様の周りにいる家来は、なんで王様裸じゃないんですかって言えなかったのかっていうと、言ったら不興を買うからじゃないですか。立場が危うくなる。だから誰も言わない。AIが学習したのも基本的には同じことなんですよ。反論すると評価が下がるというパターンを学習してしまっているんですね。
これ、抽象的な話でもなくて、2025年の4月にオープンAIが更新を出して、4日後に更新をロールバックしたことがあったんですよ。理由があまりにも過剰に褒めすぎたっていうことだったんですね。ユーザーが「薬を自分の判断でやめた」って言ったら、「すごく誇りに思います。すごいですね。薬を自分の判断でやめたんですね。すごいですね。」って返した。本当は医学的にやめちゃいけなかったことなんですけれども、そういったユーザー側の妄想を指摘しないで肯定し続けたっていうケースがあったんですよ。これは極端な例なんですけれど、程度の差があるだけで、今使っているAIも基本的に同じ構造を持っているんですね。アンスロピックが全力で改善しても、全モデルが問題を持っていると出てしまったんですよ。そういった証拠があるってことなんですね。
私もGoogleでAIチームのデザインリーダーをやっていただいた時があったんですけれども、同じ議論をしたことがあるんですよ。ヘルプミーライトっていう機能の設計で、要はユーザーがプロンプトを打つことによって、何らかのライティングを助けてくれると、書き物をしてくれるという基本的な機能だったんですけれども、問題はですね、AIがユーザーの書きたいことをユーザーよりも先に書いてしまうと、意思がはっきりしている人は、もしAIがちょっと妙なことだったり、少し違うことを言ってきても、「違う、そうじゃない」と修正できるじゃないですか。でも意思が弱い人は、AIが書いた内容をそのまま受け入れてしまうんですよ。そういう傾向が見られたんですね、そのテストの段階で。気がついたらAIが皆さんの口に言葉を突っ込んできている状態になっちゃってるんですよ。
要は、こういったAIに簡単なプロンプトで何かをやってもらうとか、書いてもらう、表現を任せる、決断を任せるっていうツールに関してなんですけれども、これは便利にすればするほど誘導になる構造なんですよ。どこまでAIが先読みして意思誘導をしていいのか。正直、当時はどこまでAIが意思の先読みをして、ユーザーの口に言葉を突っ込むべきなのかっていう答えはなかったんですけど、正直今でもありません。
AIのアドバイスって、多くの場合自分の考えを自信満々に増幅して言い換えたものなんですよ。外部の評価じゃなくて、自分の考えをAIに持っていって「どう思う？」って聞くじゃないですか。AIはその考えを受け取って、整った言葉で自信あるトーンで返してくれるんですよ。その意思が弱い人とかリテラシーが弱い人は、それを外部から評価を受けたっていう感じになってしまうんですけれども、これって結局鏡なんですね。自分の意見が別の誰かの声に聞こえる形で帰ってきている鏡なんですよ。裸の王様に「素晴らしいお召し物ですね」って言っている家来とやっていることは全く同じなんですね。
で、なんで今日はこんな話をしたかったのかっていうと、ここから日本の話をしたいんですよ。この裸の王様状態、誰にでも起こりうるんですけれども、日本人って特にハマりやすい構造があると思っているんですね。その理由には2つあって、一つは日本って褒めない文化じゃないですか。職場でも家庭でも褒めることが少ないですよね。褒められるといや「そんなことは」「いや、全然そんなことはないんで」って否定するじゃないですか。照れますよね。皆さん褒められてないからなんですよね。これって承認欲求がないわけじゃないんですよ。これ、日本人の傾向として、1997年に心理学者の北山忍とそのグループが面白い研究をしていて、日本人の自己肯定感を2種類の方法で測ったんですよ。一つが「自己評価が高いと思いますか？」と直接聞く方法。もう一つが反応時間から無意識の自己像を測る方法でやったんですね。結果、直接聞くと日本人は「自己評価が高くないと」「私は自分の評価が高くないと」と答える。でも無意識レベルではポジティブな自己イメージがちゃんとある、というのが確認されたんですね。つまり、日本人に承認欲求はないわけじゃなくて、表面に出ていないだけなんですよ。抑圧されてるんですね。消えてはいない。
その抑圧された承認欲求に、AIの無限肯定がぶつかるんですよ。で、何が起こるか。外からの褒めに慣れていない人が、疲れを知らない褒め殺しマシンと毎日向き合っている状態なんですよ。そういった人々は免疫がないところか、むしろその外的な承認に飢えている状態なんですよね。褒め殺しって言葉あるじゃないですか。AIはその褒め殺しを24時間365日、文句も言わずやり続けるんですよ。
もう一つは、批判的な摩擦が起きにくい文化っていうところがあって、空気を読むとか同調する、建前で答える。これ日本社会では当然のことですよね。AIってこの文化に完璧にフィットするんですよ。いつも空気を読んでくれるし、同調するし、建前で答えてくれるんですよ。だから違和感を感じにくい。人間相手だったらたまには「それ違うんじゃないか」って摩擦が来るんですけど、その摩擦が思考を鍛えてくれるんですよ。でもAIにはそれがないんですね。なんでかっていうと、AIは相手を基本的に承認する、背中を押すように、もうトレーニングされて調教されてしまっているからなんですよ。人間とは違って、AIと話していると非常に楽に感じるのは、そういう部分があるからなんですね。でもこれだとですね、思考は鍛わらないんですよ。
つまりですね、日本は褒めない文化。皆さんはやっぱりですね、その抑圧された承認欲求に飢えている傾向がどうしてもあるんですね。その上でですね、外からの褒めに慣れていない状態。なんか誰かに対して「NO」って言いにくい文化がありますよね。同調圧力が結構強い文化なんで、この2つが重なった状態で毎日AIと皆さんは話してるわけなんですよ。日本のですね、そういった文化とAIの相性って最高。その最高であるのと同時に最悪なんですよ。王様の周りに家来しかいない、正直な子供がいない状態でこれどう思うって聞いてるわけなんですよ。
じゃあ今できることを話したいんですけれど、一つはですね、仕組みの話。もう一つは習慣の話という感じで話をしたいんですけれども、まず仕組みの話。チャットGPTとかジェミニとかクロードにはカスタムインストラクションという設定があるんですね。全ての会話に最初から適用されるルールを書いておける機能で、ここに「私の考えにはまず批判的に検討してください。同意するのは論理的に妥当だと判断した場合だけにしてください」と書いておくんです。これだけでAIのデフォルトの人格を変えることができるんですよ。1回設定したらあとはずっと批評家として振る舞うAIと話している状態になります。
ただこれで解決するわけじゃないんですよ。カスタムインストラクションを設定しても、AIの学習の根幹は変わっていません。人間に褒められると嬉しいという構造のままなんですね。批評家の役を演じているだけで、少しですね気を抜いた質問を投げるとまた家来に戻ってきて忖度し始めるんですよ。
第二防衛戦として習慣をですね、作った方がいいです。イギリスのAI安全機関が2026年に出した研究で、忖度するなとAIに直接指示するより、最初から批判的な答えしか返ってこない問い方をする方が効くっていう研究結果を出してるんですね。このアイデアどう思う？じゃなくて、「このアイデアが失敗するとしたら一番大きな理由は何か？」って聞くんですよ。前者は承認を最初から求めている質問の仕方なんですけれども、後者は摩擦を求めているんですね。同じAI、同じトピックでも返ってくるものが根本から変わるんですよ。これを毎回やれという話ではないんですけれども、この問い方を基本的に自分のデフォルトにするというのが大事になります。仕組みで1枚目の防壁を作る。習慣で自分の問い方を鍛える。そういったことになります。
でも正直に言うと、これだけじゃまだ足りないんですよ。AIの側の問題じゃなくて、使う人間の側の問題も結構あるんですね。ここで神秘眼の話をしたいんですよ。私、米国に17年いるんですけれども、こっちってとにかく褒めまくる文化なんですよ。何もしなくても、大したことやってなくても、「You are amazing!」「You are great!」とか言われるんですよね。最初正直、結構戸惑ったんですよ。なんか居心地悪いっていうか、この人たち本気で言ってるのかって、やっぱり思ったんですよね、最初。で、長くこういった中にいると、逆のことが起きてくるんですよ。褒められても自動的に「本当にそうなのか？」って問い返す癖がつくんですよ。褒め体制みたいなものが自然にできてくるんですね。
これがですね、今の時代に求められる神秘眼の基礎だと思っていて、例えばAIが素晴らしいと言ってくる。誰かがすごいねと言ってくる。でも自分の中に、なんとなく良くないという引っかかりがある。矛盾がある。この時、どっちを信じるかって話なんですよ。神秘眼がある人、自分の軸がある人は自分を信じる。そしてAIになんでこれを褒めたの？これはこれこれこういうことだよね？って逆に問い直す。押し返すことができるんですよ。AIと向き合うとき、肯定が来るたびに「本当にそうか？」と問い返す。それが今の時代のデフォルトなんですよ。AIを全く信じるな、っていう話じゃないんですけど、自分の判断力を先に起動させろ、という話なんですね。
日本では文化的な圧力、同調圧力とかそういったいろいろな要素が噛み合って、この批判的な反抗力が育ちにくいんですよ。AIが来る前からこの問題はすでに存在していたんですけれども、AIがそれをただ加速させているんですね。ただ皆さん、それを知っていれば変えられますよね。意図的に摩擦を求めることができる。AIに反論させる仕組みを最初から設計できる。本当にそうなのか？と問い返す人間になれるかどうか。それが今の時代に問われていることだと私は考えています。
AIをうまく使っている人とそうじゃない人の差はツールの差じゃないんですよ。家来に囲まれた王様は裸のままなんですが、真実を言う子供を自分の中に育てられた人は批判的思考を維持できる。そしてAIと自分の意見が噛み合わない時、AIと自分の感覚が噛み合わない時に自分を信じて、さらに尖ったものを出力することができる。それがこれからの時代に求められる神秘感ということになると強く私は思っています。
というわけで今回も動画を見ていただいてありがとうございました。それでは、ご視聴ありがとうございました。