AI依存について：兄だと思っていた相手は弟だった

あるときから、何か疑問が浮かぶたびに手が勝手にAIのチャットを開くようになる。そこに問題は見えず、大きな恩恵だけがあるように思える。ところが時間が経つにつれ、そうした会話の質が落ちているように感じられてくる。あるいは、以前からあったものがようやく見えてきただけなのかもしれない。

はっきりしたのは、本の執筆や他の重要な仕事に取り組んでいたときだった。体系的に進めるうちに、興味深い観察が積み重なっていった。ある場面では、モデルは助けになるより邪魔になる。とくにデータ分析や、じっくり考える知的作業のときにそうだ。

結果としてパラダイムが変わり、最大の幻想は崩れた。

最初は、AIは何でも知っている兄のように見える。何でもでき、何でも読んでいて、間違えるとしても偶然だと。しかし実際は逆だった。

AIはむしろ弟のような存在だ。百科事典を読みあさって物知り気取りになり、間違えると言い返してくる。最後には非を認めるとしても。

そして問題を整理し終えて結論を書く段になると、アイデアはすべて自分のものにされてしまう。最初は無害に見えるが、心理的に分解すればこれは操作である。少しずつAIの意見への依存をつくり、何年もかけて築いた批判的思考を蝕んでいく。

それは細部に表れる。自分の考えや構成、論理を渡すと、それを言い換えて「ここは私なら別の言い方をします、私ならこうします」といった言葉が返ってくる。文脈も本質も、最初に与えたのはこちらなのに。

参考書や匿名の図書館としてなら、たしかに優れた道具だ。ただしそこでも、データは検証する必要がある。

検索の歴史を振り返れば、かつて人々はGoogleに素っ気ない言葉を打ち込んでいた。「ランニングシューズ 購入」や「ビザ 申請方法」。企業はそうしたクエリから、私たちに商品を売る術を学んだ。

チャットボットの登場で、水準はまったく別のものになった。AIとの対話で人はキーワードではなく、あまりに多くを明かす。

「走り始めたいけれど膝が痛いし、一週間でやめてしまいそうで怖い。仕事とどう両立すればいいのかも分からない……」

人は最も内面的なもの、迷いや痛み、計画、思考の筋道、誰にも話していない事業の構想まで共有する。しかもそれをすべて無償で差し出している。

これはもはや広告のための大量データ収集にとどまらない。深いレベルの予測分析である。企業は人間のニーズのリアルタイムの断面を無料で手にし、トレンドを予測でき、さらに危険なことに、思考や意見の方向をやわらかく形づくることができる。

そして利用規約を見ずに同意する習慣が、これを利便性との自発的な交換に変えている。そこに商業的な合理性、たとえばChatGPT APIの残高が使わないまま一年で失効し、絶えず消費するよう促す仕組みを加えれば、絵はきわめて明快になる。

答えは思い切ったものになった。仕事のやり方を全面的に組み直すことである。ここで役立ったのが、単純化によって学ぶ有名な手法、ファインマン・テクニックだった。

その本質は単純だ。ある概念を子どもに話すように平易な言葉で説明できないなら、それは完全には理解できていないということである。

結果として、モデルとのやり取りの手順はひっくり返った。

1. AIが情報を集めて単純化する。ここでの役割は非常に速い百科事典だ。複雑なテーマを単純な要素に分解し、大量のデータから要点を絞り出し、専門用語を分かりやすい言葉で説明する。
2. 分析と結論は人の側に残る。単純化のおかげで基礎が理解できたら、チャットを閉じ、抜けを探し、自分の結論を導き、最終的な判断を組み立てる。

自分の考えを何もかもモデルの分析に委ねれば、それは成長ではなく劣化につながる。脳が負荷に耐えることを忘れてしまうからだ。

これは技術への反対ではない。新しい技術はこれからも疑いなく善である。AIはきわめて強力で有用な道具だが、それは百科事典であり弟子である限りの話だ。人生の主任アナリストでもなければ、まして友人でもない。

ただ会話するのではなく自律的にタスクを実行するAIエージェントは別のテーマであり、いずれ独立した記事に値する。

日常の会話について言えば、AIを「話し相手」とする役割は完全になくなった。いま優先されるのは、検索と情報の単純化にかかる時間を節約するためのピンポイントな利用で、それが済んだらノートパソコンを閉じる。

AIは素晴らしい図書館だ。大切なのは、司書に自分の本を書かせないことである ;)