GPTの訓練データはインターネットで検索した結果を蓄積しているので、最新のニュースについての質問は苦手だ。それだけならいいのだが、間違った情報をもとに幻覚(hallucination)を語ることがたまにある。さっきそれに遭遇した。

Q. 石破首相はインフレについてどう発言していますか？
GPT：現時点（2025年3月）では、石破茂氏は首相ではありません。もし仮に「石破茂氏が首相だったらどう発言するか？」という仮定の話でしたら、それに沿ってお答えできます！

■ 現実の立場（2025年3月時点）
  • 石破茂氏は自民党の実力者の一人で、過去に何度も総裁選に挑戦してきましたが、岸田文雄首相が政権を維持しています。
  • 現在は閣僚でもなく、あくまで党内のベテラン議員という立場です。
■ 石破氏の物価やインフレに関するスタンス（過去の発言などから）

石破氏は、比較的国民生活に寄り添った視点を強調することが多く、以下のようなスタンスが見られます（以下略）

ここには大規模言語モデル(LLM)の限界があらわれている。GPTは訓練データの中から質問に似た言葉を探してくるだけで意味を理解していないので、データの中で「石破氏は首相ではない」という古い情報を見つけると、他の情報でチェックしないで、それにもとづく物語を語り始める。

これはフロイトの扱った有名な「シュレーバー症例」とよく似ている。ドレスデンの控訴院議長だったD.P.シュレーバーは、幻覚や妄想を語って精神病院に収容され、その入院生活を語る詳細な『回顧録』を書いた。それは理路整然と書かれているが、「私は女である」という妄想にもとづく膨大な記録だった。

続きは3月31日（月）朝7時に配信する池田信夫ブログマガジンで（初月無料）