4月4日からのアゴラセミナー「AIは世界を変えるか」の重要なテーマはフレーム問題である。これは半世紀以上前に定式化され、その後も多くの研究者がチャレンジしたが、いまだに解けない難問である。チャットGPTはこれを解いたのだろうか。きいてみた。

フレーム問題とは何か？

フレーム問題は、1969年にマッカーシーとヘイズによって提起された。彼らは、AIがある行動をとった際に、どの情報を更新し、どの情報を無視すべきかを適切に判断することが困難であることを指摘した。

フレーム問題の具体例：ロボットが爆弾が仕掛けられている部屋から貴重な美術品を取り出してこなければならない。ロボットは台車を押して美術品をとってきたが，不幸なことに爆弾は台車にしかけられていたので，ロボットは爆発に巻き込まれてしまった。

frameproblem1そこでこの問題を改良したロボットが美術品を取り出しに部屋に再び向かったが、
  • 台車を動かしたら天井は落ちてこないか？
  • 部屋の電気は消えないか？
  • 壁に穴があかないか？
…と考えているうちに爆弾が爆発してしまった。このようにすべての状況変化を考慮しなければならない場合、AIは無限に計算し続けることになり、実際に行動を起こせなくなる。このような問題がフレーム問題であり、現在のAIにおいても本質的な課題として残っている。

続きは1月24日（月）朝7時に配信する池田信夫ブログマガジンで（初月無料）