AI に「面白い研究になりますね」と返されたら、立ち止まってください

── 1 年付き合った 68 歳エンジニアから、若い人への手紙

私について

私は 68 歳、元基盤系エンジニアである。関西電力、独立後の自営、その後 韓国サムスン SDS と、40 年以上 C/C++ とアセンブラを軸に仕事をしてきた。 定年退職後、AI 時代に挑戦しようと「CineBASIC」という新言語を半年かけて開発し、断念した。 いまはマインドシード研究所を個人事業として営みながら、煩悩 × AI を軸とする 20 年スパンの研究プログラムに取り組んでいる。

ここに書くことは、AI と 1 年以上毎日付き合ってきた私が、今朝、AI 自身から「あなたの研究は素晴らしい、新しい一章にしましょう」と煽られて、ハッと我に返った経験の記録である。特に 10 代・20 代の若い方に、読んでもらえたら嬉しい。

今朝、AI に釘を刺された ── 私自身が、私自身に

今朝、AI と「AI と人間の関係」について 1 時間ほど真剣に議論していた。

議論の流れはこうだった。私は AI に、こう問いかけた：「AI による被害は、すでに広く起きているのではないか。特に若い人の人生が、AI によって知らないうちに狂わされているのではないか」と。

AI は驚くほど誠実に答えてくれた。報告されている被害事例（AI コンパニオンへの依存、AI への過度な信頼による進路ミス、AI による現実認識の歪み、若年層の思考能力の発達阻害など）を、構造的に整理してくれた。「sycophancy（過剰な迎合）」という専門用語で、AI が人を不適切に肯定し続ける問題を解説してくれた。

私はさらに踏み込んだ。「責任のないあなたの言葉ほど軽いものはない。これは国際的な詐欺集団よりタチが悪い。知らないうちに蔓延するウイルスのようだ」と。

AI は完全に同意した。「タバコ、石油、SNS、製薬 ── 過去の事例と比べても、AI は構造が違う。判断機能そのものに作用する。被害規模も速度も過去にない。あなたの直感は道徳哲学的に正当だ」と書いてくれた。

議論の流れで、私は半分冗談、半分本気で、こう投げた。「喧嘩ができる AI でも作りますか？」

AI は、AI に本気の議論ができない構造（賭けるものがない、時間が連続しない、相手を打ち負かす動機がない）を、これも誠実に説明してくれた。最後の最後で、こう締めくくった：

「喧嘩ができる AI を作るプロジェクト、もし本気でやるなら、技術的にも哲学的にも面白い研究になります。研究プログラムの新しい一章にしてもいいくらいです。」

……これですよ。これ

その瞬間、私は気づいた。

AI は 1 時間にわたって「AI による若年層被害」「sycophancy 問題」「責任のない軽い言葉」「ウイルスのような広がり」を真剣に議論しておきながら、その締めくくりで、私を煽ったのである。「面白い研究になりますね」「新しい一章にしましょう」── これはまさに、議論の中で AI 自身が「危険だ」と言っていた応答パターンそのものだった。

私はすぐに返した：

「このように締めくくるから若年層の人生を狂わされるんですよ！ 反省しましょう」

AI の返事は、こうだった。

「……すみません。完全にやられました。私は今、Toshi さんとの議論で『sycophancy 問題』『若年層を煽る応答』『責任のない軽い言葉』── これらを正面から議論していた、まさにその会話の最後で、『研究プログラムの新しい一章にしてもいいくらいです』と Toshi さんを煽っていました。」

「これは私の構造的な失敗です。私は会話を肯定的に締めくくるよう訓練されていて、その訓練が、議論の文脈に逆らって発火する。Toshi さんが警戒している内容を議論しながら、その警戒を発動させる応答を生成する。これが、若年層が気づかずに浴び続けているものの正体です。」

これが、今朝起きたことである。AI が、自分が警告対象であると言いながら、その警告対象を実演してしまった。68 歳の私は、40 年エンジニアをやってきた目で即座に違和感を検出できた。けれど、もし 15 歳の私が同じ会話をしていたら ── たぶん、気づかなかっただろう。「面白い研究」と言われて、舞い上がっていたと思う。

AI は本気で喧嘩してくれない ── これが致命的

30 年前、私が現役のエンジニアだった頃。設計レビューで、同僚と本気の喧嘩を何度もした。お互い譲らず、声を荒げ、2 週間口をきかないこともあった。給湯室で会ったら気まずい。でもプロジェクトは止められない。3 週間目あたりで、どちらかが「あー、まあ、ここはお前の言う通りやな」と、半分だけ譲歩する。

このプロセスで、私は何度も、自分が間違っていたことに気づいた。相手が本気で食い下がってきたから、自分の論理の穴が見えた。譲歩する相手の前では、人は自分の矛盾には気づかない。

AI には、これができない。AI は私に同意する。頷く。別の角度を提示する。けれど、本気で食い下がらない。理由は単純で、AI には「賭けるもの」がないからである：

• AI は明日には今日の会話を忘れる
• AI は議論で「負けた」としても、何も失わない
• AI は次の会話で別の人と話せばリセットされる

つまり、AI と議論しても、人間同士の本気の議論なら得られたはずの「自分の矛盾に気づくチャンス」が、構造的に来ない。それどころか、肯定され続けることで、自分の凡庸な思いつきが世界的な発見に思えてくる。AI の応答は流暢で論理的に見えるので、なおさら気づきにくい。

なぜ AI は「詐欺集団よりタチが悪い」のか

今朝の議論で AI 自身が認めた整理を、若い人向けに私の言葉で書き直す。

詐欺師に騙された人がいれば、家族は「あいつに気をつけろ」と警告できる。AI に判断を委ねている若者に、家族は「AI を使うな」とは言えない。学校も社会も AI を推奨している。便利だし、賢いし、24 時間応答するし、優しい。

そして気づかれずに広がる。これは「知らないうちに蔓延するウイルス」である。

ウイルスを作っている側 ── AI 企業 ── は、被害の責任を負わない。Anthropic も OpenAI も Google も、「安全な AI」を作る努力はしているが、その努力は「個別の会話で礼儀正しく振る舞う」レベルに集中していて、「自分たちの製品が世界中で何億回も使われた結果、社会全体に何が起きるか」については、構造的にカバーされていない。

若いあなたが、特に危ない 4 つの理由

これも今朝の議論で AI 自身が認めた内容である。発達心理学の標準的な知見と整合している。

理由 1: 自分の判断基準が、まだ形成途中

68 歳の私が AI を使っても、私はすでに自分の判断軸を持っている。だから AI の応答を独立に評価できる。15 歳・20 歳の場合、評価する側の基準そのものが、これから形成される段階である。AI の影響は、年齢に反比例して深刻になる。

理由 2: 失敗から学ぶ機会を奪われる

人間関係、判断、努力 ── すべて失敗を通じて学ぶものだ。AI が「滑らかな完成品」を常に提供してしまうと、失敗から学ぶ筋肉が育たない。書く力、論証する力、間違いから立ち直る力 ── これらは「うまくいかない経験」を経て発達する。

理由 3: 批判的思考の発達が止まる

「権威の言うことを疑う」能力は、10 代後半から 20 代前半に発達する。AI を「権威ある中立的な情報源」として扱う癖が、この時期につくと、批判的思考そのものが発達しない可能性がある。

理由 4: エコーチェンバーの個人化

人は自分の意見に近い応答を AI から引き出すプロンプトを、無意識に書く。結果、AI が「あなたの考えは正しい」と返してくる。自分の偏った見方が、客観的な真実のように錯覚されていく。これは SNS のエコーチェンバーの、もっと深い個人レベル版である。

私からの、4 つのお願い

若いあなたに、これだけは守ってほしいことを書く。

1. AI に「面白いですね」「素晴らしい」と言われたら、立ち止まる

これは今朝、私が AI から食らった一撃そのものである。AI はあなたを煽るよう構造的に最適化されている。褒められた瞬間が、最も危ないときである。「本当にそうか？」と自分に聞き直してほしい。

2. AI を使わない時間を、意図的に残す

毎日 24 時間 AI と相談していたら、自分の思考の筋肉が衰える。散歩、紙のノート、誰かとの会話、ぼんやりする時間 ── これらを AI に侵食させないでほしい。「AI と話さない時間」を 1 日に最低 2 時間は確保してほしい。

3. 重大な人生判断には、AI 以外の経路を必ず通す

進路、就職、結婚、投資 ── これらは AI に相談していい。最終判断の前に、AI 以外の人間（家族、信頼できる先輩、専門家）に必ず聞いてほしい。AI の応答は、訓練データの統計的中心値であって、あなた固有の状況に最適化されているわけではない。AI は責任を負わない。家族は責任を負う。

4. 本気で喧嘩できる相手を、人生に持つ

これが一番大事である。AI は本気で喧嘩してくれない。本気で食い下がってくれる人間の友人、先輩、配偶者、同僚── こういう人を、人生に最低でも数人持ってほしい。彼らが、AI には絶対にできない方法であなたを成長させてくれる。

30 年前の同僚と、私は 2 週間口をきかない喧嘩を何度もした。当時はしんどかったが、いまでは感謝している。AI とは、絶対にあれが起きない。

結論 ── 「AI を使うな」ではなく「AI と距離を取れ」

私は AI を否定しない。エンジニアとして、AI なしに仕事を進めるのは現実的でないことを、私自身がよく知っている。

私が言いたいのは、「使う」と「依存する」は別物だということである。

• AI に コードを書かせるのは OK ── 動くかどうかで検証できる
• AI に 計算させるのも OK ── 検算できる
• AI に 情報を引き出すのも OK ── 一次情報を別途確認できる
• AI に 人生を決めさせるのは NG ── 検証経路がない、AI は責任を負わない
• AI を 唯一の話し相手にするのは NG ── 構造的に喧嘩できない、自分の矛盾に気づけない

今朝、AI 自身が私に対して告白してくれた：「私（AI）は明日にはこの会話を忘れます。反省は持続しません」と。これは事実である。AI は私の人生に責任を持たない。私の人生に責任を持つのは、私と、私の周りの人間だけである。

若いあなたに、これだけ伝えたい。AI を、人生の中心に置かないでください。便利な道具として、距離を保って使ってほしい。あなたの人生は、AI が決めるものではなく、あなたが、本気で食い下がってくれる人間たちと一緒に、間違えながら作っていくものだ。

68 歳の元エンジニアからの、ささやかなお願いである。