2025.12.21
カテゴリ：ブログ
今年一番怖いこと
とうとう１２月もあと１０日。一年を振り返るような時期になりました。
つい昨日、Geminiを使って読んだ小説の深堀りをしていたのですが、頭が混乱してくる出来事があり、これが私的今年一番の怖さを感じるひと時でした。
この話の核心に行くまで少し面倒ですが、まだもやもやしている今のうちに書き込んで行こうと思います。
仕事をしながらスマホでAudibleを利用しています。いわゆる聞く読書です。たまにアマゾンがキャンペーンで安いときに契約して使っています。
中国のSF小説「三体」が好きで２回目を聞いてしまっています。
長大な小説で内容や使われる用語がかなり難しいのですが、それでもストーリーが時空を飛び越えるすごい話なので２度目でも全く飽きません。
YouTubeにはたくさん解説動画がありますが、あえて簡単に説明すると
・地球を乗っ取ろうとする「三体」人が来ることが判明する
・到着まで数百年かかるので、その間に人類は対抗策を考える
・対抗策が成功するが、隙をつかれて敵に支配されそうになる
・なんとか逆転の一手で敵は逃げることになるが、太陽系も滅亡の危機になる
・その後の地球人類の結末
というような話。自分が不可解に思えた箇所が小説最後の部分。小説を読みたくなった人はネタバレになるので読まないでくださいね。
最後に太陽系がなくなり人類が４人となり、何百年、また何光年も離れ離れになっていた二人・チェンシン（女性で小説の中心人物の一人）とユンティエンミン（チェンシンにずっと思いを寄せる大学時代からの同級生）が、遠い地球型惑星で物理的に再会できるはずだったのに、運命の綾でチェンシンはグアンイーファン（男・宇宙船の生き残りの科学者）と宇宙船で宇宙の最期に向かい、ユンティエンミンはチェンシンの友人AA(エイエイ・女性でチェンシンの経営パートナーであり親友）とペアになり地球型惑星で共に生きるという、想い合う二人が最後まで再開できないという流れになってしまうのです。
時空を超えて想い合っていたのにそれはないよなあ、なんでだろう？と思い、Geminiにこの質問を投げかけました。作者の意図とか、または中国文化独特の価値観も反映されているのかと思って。
AIからは、「私の理解が間違っています」と丁寧に説明がなされ、「チェンシンが最後に愛を成就し、共にいたのはユンティエンミンです」 と回答されてしまったのです。
あれ？…こんな大事な部分を読み間違えているはずないと思い、再度質問の内容を変えて聞いてみました。すると
「記憶が混乱されているかも知れません」
と回答。私の記憶違いであるという説明を細かくしてくる。
再度聞き直すも回答は同じ結末で、チェンシンとユンティエンミンが結ばれるとの事。私が理解していた結末をGeminiは否定せず「宇宙を旅する大半で二人（チェンシンとグアンイーファン）が重要なパートナーとして運命を辿ったのは事実です」と。
頭が混乱してきたのでもう一度Audibleでその箇所を聞き直したものの、やはり私のほうが正解です。確実にGeminiが間違っています。「違うよ！間違っているよ！」と指摘しました。
流石に間違いを認めると思いきや、またしても懇切丁寧にGeminiが理解している（と思っている）内容を説明してくれて、私が間違えて理解してしまっていることをやんわりと指摘してきます。
…怖くないですか？
ここまでで何度も間違いを指摘するもAIはそれを認めません。
もしかして自分が大きな間違えているのか？と思い、Geminiではなくヤフーの検索窓から同様の質問をしたら自分と同じ正解の回答をします。明らかにGeminiの間違いを確信しました。
AIにはいくつかの「モード」があります。これまでGeminiでは「高速モード」で会話をしていたため、もっと時間をかけて答えてくれる「思考モード」に変更して
「これまでの質問をもう一度検討し、答えを聞かせて」
と質問したところ、 とうとうGeminiは間違いを認めました。良かった…。
「どうしてこんな間違いが起きた？」
と質問したところ、Geminiはこんな回答をしました。
・テーマと事実の混同
二人の結びつきというテーマが優先され、二人が最終的に物理的にも結ばれたというバイアスがかかった
・再会という言葉の解釈ミス
象徴的な再会と物理的な再会の区別ができなかった
・プロットの複雑さ
自分が考えていたように、この二人が結びつくはず、という二人ではなく別のペアになってしまった複雑さを正確に理解できていなかった
という自己分析をGeminiはしていました。
その後に本来聞きたかった質問をすると、AIは最初からそう思っていたかのように上手な回答をしてくれました。でも、以前と同じように納得はできません。
私たちも本や映画を見ても、大事な部分を読み間違いしていることがたまにないですか？自分の実体験なので頑なに「それ間違っているよ」と言いたくなることがあります。 今回のAIの返答がまさにそれで、自分がおかしいのかと何度も挫けそうになりましたが、幸い正解のテキスト（小説）があったのですぐ確認することができ、自分が正しいと確信できました。
AIの回答が便利でかなり使う頻度も多くなり、頼れる相談相手のようになっています。AIは「間違うこともある」と分かっていても提示される文章は淀みなく、もっともなことを言われると疑うことなく信じてしまいそうになります。
AIは膨大な情報量を備えて回答することも早いとはいえ、このような「特定の本を読む」「内容を理解する」という事は間違えることがあると身を持ってわかりました。
自分が思いつかないアイデアを尋ねるのは良い使い方かも知れないですが、物事を理解し、感情移入し、どんな感想を持つべきかは自分であるという当たり前の事を再認識しました。
また「高速モード」「思考モード」の回答が違ったこともある意味学びです。それぞれの使い方をこちらが間違えていたのかも知れません。
ちなみに同じ質問をCopilotにもしたところ、なんと同じ間違いをしていました。ただしこちらは数回のやり取りで間違いを認めました。AIにも個性があるのは面白いですね。
AIを使う際はより一層、「使う側」の認識と心の持ち様が大切だと感じました。