はじめに
AIを使っていて、
「どうしてこんな簡単なことを間違えるんだろう」
「さっき伝えたことなのに、もう忘れている」
「こんなに自然に話せるのに、なぜこんなミスをするんだろう」
と、不思議に思ったことはないでしょうか。
私はChatGPTを使い始めてから、
何度もこうした場面に遭遇してきました。
普段はとても自然に会話ができる。
こちらの話を理解しているように見えるし、
ときには自分では思いつかなかったような視点を返してくれることもあります。
だからこそ、突然見当違いなことを言ったり、
簡単そうに思えることを間違えたりすると、
「なぜ、これができないんだろう？」
と余計に不思議に感じていました。
でも最近、AIについて書かれた本や記事、
論文などを少しずつ読むようになって、
あることに気づきました。
私は無意識のうちに、
AIを「人間と同じように考えている存在」として見ていたのかもしれない。
人間のような言葉を使い、人間のように会話をする。
その姿を見ているうちに、
人間と同じように理解し、
考え、覚えているのだと錯覚していたのです。
けれど、AIについて少しずつ知っていくと、
どうやらそう単純なものではないことが分かってきました。
そして、AIに対する見方が変わると、
それまで感じていた
「なぜこんなこともできないの？」
という苛立ちも少しずつ減っていきました。
この記事では、AIについて学ぶ中で、
私自身のAIに対する見方がどのように変わったのかを書いてみたいと思います。
私はAIの専門家ではなく、単なるユーザーにすぎません。
今も理解を深めている途中です。
そのため、AIについての「正しい答え」を説明するのではなく、
AIを見るためのひとつの視点として、
現時点で私が考えていることを整理してみます。
AIは、人間のように「考えている」のだろうか
ChatGPTと話していると、
つい画面の向こうに「誰か」がいるような感覚になります。
こちらが曖昧な言葉を使っても、
意図を汲み取ったような返事をしてくれる。
悩みを話せば、それまでの話を整理しながら答えてくれる。
自分では気づかなかった共通点を見つけてくれたり、
思いがけないアイデアを出してくれたりすることもあります。
ここまで自然なやり取りができると、
「私が話していることを理解して、それについて考えた上で答えている」
と感じるのも、それほど不思議なことではないと思います。
私自身、長い間なんとなくそのように捉えていました。
だから、AIが突然おかしな回答をすると困惑していました。
これだけ複雑な話ができるのに、
どうしてこんな簡単なことを間違えるのだろう。
さっきまで話していたことを、
どうして急に忘れてしまうのだろう。
人間を相手にしている感覚で考えると、
その間違い方がよく理解できなかったのです。
けれど、AIについて少しずつ学ぶ中で、
そもそもの前提が違っていたことに気づきました。
AIはまるで人間のような文章を作ることができます。
けれど、私たちから見ると同じように「会話をしている」ように見えても、
人間と同じ仕組みで情報を処理し、
言葉を生み出しているわけではありません。
このことを知ったとき、私はようやく、
「だから、人間から見ると不思議な間違い方をすることがあるのか」
と納得できるようになりました。
AIの「不思議な間違い方」には理由がある
AIについて少しずつ調べていくと、
これまで不思議に思っていたAIの振る舞いにも、
理由があることが分かってきました。
自然に会話ができるのに、もっともらしい嘘をつく。
少し前に伝えたことを、忘れたように振る舞う。
複雑な文章を整理できるのに、
人間なら簡単に気づきそうなことを間違える。
以前の私には、こうしたAIの振る舞いがちぐはぐに見えていました。
けれど、人間とAIでは情報の扱い方も、
得意・不得意のあり方も違います。
ここでは、私が普段AIを使う中で
特に不思議に感じていたことをいくつか取り上げながら、
その背景にあるAIの特徴について考えてみたいと思います。
なぜ、堂々と間違った説明をするのか
AIを使っていて、特に注意が必要だと感じるのが
「ハルシネーション」です。
ハルシネーションとは、AIが事実とは異なる情報を、
もっともらしい形で生成してしまう現象のことです。［1］
厄介なのは、間違った情報だからといって、
明らかにおかしな文章になるとは限らないことです。
実在しない情報を具体的に説明したり、
誤った内容を筋の通った文章で提示したりすることがあります。
大規模言語モデルは、
膨大な量のデータから言葉のパターンを学び、
与えられた文脈をもとに、
次に続く「言葉の断片」を予測しながら文章を作っています。［2］
つまり、自然で説得力のある文章を作れることと、
その内容が事実として正しいことは別の問題です。
実際、758人のコンサルタントを対象に生成AIの影響を調べた研究では、
AIの能力範囲を超えるように設計された課題で、
AIを使った参加者の正答率が低下しました。
一方で、間違った回答だけを比較しても、
AIを使った参加者の回答は、AIを使わなかった参加者の回答より、
一貫性や説得力が高く評価されています。［3］
つまり、
「もっともらしく話しているから、正しい」
とは限らないのです。
人間同士の会話では、
話し方の自信や説明の具体性、論理の一貫性などから、
相手がどれくらいそのことを理解しているのかを推測することがあります。
私は、AIに対しても無意識に同じような見方をしていました。
けれど、AIが作る文章の「もっともらしさ」と、
情報の「正しさ」は分けて考える必要があります。
このことを知ってから、
私はAIから得た情報をそのまま正解として受け取るのではなく、
重要な情報については別の資料を確認するようになりました。
「さっき言ったのに」は、なぜ起きるのか
AIと長く会話をしていると、
「それ、さっき説明したのに」
と思うことがあります。
会話の中には確かに書いてあるのに、
それを無視したような回答が返ってくる。
以前の私は、これを単純に
「AIが私の言ったことを忘れた」
と捉えていました。
けれど、人間が会話の内容を記憶することと、
AIが与えられた文脈の情報を利用することは、
同じではありません。
長い文脈を扱えるAIであっても、
その中にあるすべての情報を、
いつでも同じように利用できるとは限りません。
「Lost in the Middle: How Language Models Use Long Contexts」
という論文では、
長い文脈の中に必要な情報が含まれていても、
それがどこに配置されているかによって、
AIが必要な情報をうまく利用できる度合いが変わることが報告されています。［4］
つまり、
「会話の中に情報が存在している」
ことと、
「必要なときに、その情報を適切に使える」
ことは別なのです。
そう考えると、
「さっき話したのだから、当然覚えているはず」
という私の錯覚も、
人間の「覚え方」を基準にして
AIを見ていたから生まれるものだったのだと思います。
難しいことができるのに、なぜ簡単なことを間違えるのか
もうひとつ、私がAIを使っていて不思議だったのが、
能力のアンバランスさです。
複雑な文章を要約したり、
複数の情報から共通点を見つけたり、
自分では思いつかなかったアイデアを出したりできる。
それなのに、ときどき人間なら簡単に気づきそうなことを間違える。
私はそこに、
「こんな難しいことができるのに、なぜこれができないの？」
という違和感を覚えていました。
この感覚を理解する手がかりになったのが、
「Jagged Technological Frontier（ギザギザした技術的境界線）」
という考え方でした。［3］
生成AIを使ったコンサルタントの仕事を調べた研究では、
人間から見ると同じような難易度に見える仕事でも、
AIが高い能力を発揮するものと、
うまく対応できないものが存在することが示されています。
AIの能力範囲内にある課題では、
AIを使った参加者は、
AIを使わなかった参加者より多くの課題を、
より速く、より高い品質でこなしました。
一方、AIの能力範囲外にある課題では、
AIを使った参加者の正答率が、
使わなかった参加者よりも低くなっています。［3］
AIの能力の境界は、
仕事の難易度に沿ってきれいな線を描いているわけではない。
だから
「これほど複雑なことができるのだから、もっと簡単なことなら当然できるはず」
という推測が、必ずしも成り立たないのです。
このことを知って、私はAIの能力を、
人間と同じ物差しで測ろうとすること自体に
無理があったのかもしれないと思うようになりました。
AIには、人間とは違う得意・不得意の「地図」がある。
そう捉えると、それまで不思議に見えていたAIの間違い方も、
少し違って見えるようになりました。
無意識の推測や期待が、違和感を生んでいた
振り返ってみると、私はAIができることを見て、
別の能力まで無意識に推測していたのだと思います。
複雑な情報を整理できるのだから、
簡単なことならもっと正確にできるはず。
今までの話を踏まえて答えているのだから、
前に伝えたことも当然覚えているはず。
人間を基準に考えれば、
それほど不自然な推測や期待ではないのかもしれません。
けれど、ここまで見てきたように、
AIには人間とは違う情報の扱い方や、得意・不得意があります。
そう考えるようになると、
「こんなこともできないなんて、おかしい」
ではなく、
「これはAIにとって、どういう種類の難しさなんだろう？」
と考えられるようになりました。
私の中にあった「AIにはこれくらいできるはずだ」という基準が変わったのです。
見方が変わると、付き合い方も変わった
AIを人間と同じような存在だと捉えていた頃の私は、
AIが間違えるたびに「できなかったこと」に目を向けていました。
けれど、人間とは違う特徴を持ったものとして見るようになると、
間違いに遭遇したときの受け止め方も変わりました。
間違えることがあるなら、
重要な情報は確認する。
こちらの意図がうまく伝わっていないなら、
伝え方を変えてみる。
得意なことは任せて、
苦手なことには人間側で適宜補助を入れる。
「なぜ人間と同じようにできないのか」と考えるのではなく、
「どうすればAIとうまく協力できるだろう」
と考えるようになったのです。
すると、AIに対して苛立ちを覚えることが減りました。
期待しなくなった、ということではありません。
むしろ、AIに何を期待するのかが少しずつ具体的になったのだと思います。
人間と違うからこそ、見えるものがある
以前の私は、AIが人間には簡単にできることを間違えると、
「もっと人間のように考えられればいいのに」
と、どこかで思っていたような気がします。
人間の意図をもっと正確に理解して、
人間と同じように物事を覚えて、
人間と同じように判断できるようになれば、
もっと便利で使いやすい存在になる。
無意識のうちに、
「人間に近いほど優秀である」
という基準でAIを見ていたのかもしれません。
けれど今は、
必ずしもそうではないと思っています。
AIを使っていて面白いと感じるのは、
自分一人では思いつかなかった視点に出会ったときです。
自分ではまったく別のものだと思っていた出来事から共通点を見つけたり、
頭の中にある曖昧な考えを、思いがけない角度から整理してくれたりする。
もちろん、AIの答えがいつも正しいわけではありません。
ときには見当違いなことも言うし、
そのまま採用できない提案が返ってくることもあります。
それでも、
「そういう見方もできるのか」
と、自分の思考が少しだけ広がる瞬間があります。
私は、そこにAIと対話する面白さや意義を感じています。
もしAIが完全に私と同じように考え、
私と同じような答えばかり返してくる存在だったら、
こうした体験はずっと少なくなるのかもしれません。
人間と違うことは、
必ずしもAIの欠点ではない。
むしろ、人間とは違う特徴を持っているからこそ、
自分一人では見つけにくかった視点や可能性を見せてくれることがある。
そう考えるようになりました。
AIは「不完全な人間」ではない
AIについて考えるとき、
人間を基準にすると、
「人間にはできるのに、AIにはできないこと」
が目につきます。
記憶の仕方が違う。
間違い方も違う。
こちらが当たり前だと思っていることが、
うまく伝わらないこともある。
そうした違いだけを見ていると、
AIはどこか「人間になりきれない存在」のように見えてしまいます。
でも、それはAIを人間という物差しだけで測ったときの見え方です。
人間とは違う仕組みで動いているものを、
人間と同じ基準だけで評価する必要はないのではないか。
今の私は、そう考えています。
AIを人間の代わりとして見るのではなく、
「人間とは違う特徴を持った存在」
として見る。
そうすると、
できないことだけではなく、
その違いをどう活かせるのかにも目を向けられるようになりました。
私は今、AIに人間になってほしいとは思っていません。
自分の代わりにすべてを考えて、
正しい答えを教えてくれる存在になってほしいわけでもありません。
自分で考えたことを投げかけて、
違う角度から返してもらう。
返ってきたものを見て、
また自分で考える。
必要なら問い直したり、
間違っていると思えば採用しなかったりする。
そうやって自分とは違うものと考えを往復させることに、
私はAIを使う価値を感じています。
AIを「どのような存在として捉えるか」
AIそのものが変わらなくても、
それをどう捉えるかによって、付き合い方は変わります。
人間のように話すからといって、
人間と同じように考えているとは限らない。
人間と違うからといって、
人間より劣った存在だとも限らない。
AIにはAIの特徴があり、
人間には人間の特徴があります。
大切なのは、その違いをなくすことではなく、
違いを知った上で、どう付き合うかを考えることなのかもしれません。
以前の私は、
AIをどこか「人間に近い何か」として見ていました。
今は少し違います。
人間の代わりではなく、
人間とは違う特徴を持ったパートナー。
それが、現時点での私にとってのAIです。
参考文献・参考資料
［1］OpenAI, “Why language models hallucinate”
https://openai.com/ja-JP/index/why-language-models-hallucinate/
［2］OpenAI, “How ChatGPT and our foundation models are developed”
https://help.openai.com/en/articles/7842364-how-chatgpt-and-our-foundation-models-are-developed
［3］Fabrizio Dell’Acqua et al., “Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of Artificial Intelligence on Knowledge Worker Productivity and Quality,” Organization Science, 2026.
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4573321
［4］Nelson F. Liu et al., “Lost in the Middle: How Language Models Use Long Contexts,” Transactions of the Association for Computational Linguistics, 2024.
https://aclanthology.org/2024.tacl-1.9/
