チャットGPTが今までの人工知能と決定的に違うのは、大規模言語モデル(LLM)で「意味」を処理することだ。これによって最近まで不可能だと思われていた自然言語処理の自動化ができるようになった。
古典的人工知能が挫折した最大の難関は、意味の表現だった。常識的には、たとえば「犬」という単語が特定の動物を示すように、単語と概念には1対1の関係があると考える。これはソシュールからチョムスキーに至るまで同じだが、機械学習に使うには限界があった。
犬という概念をコンピュータに教えるには、犬についての辞書的な情報を教えるだけでは役に立たない。
家に帰ると犬がじゃれついてきた
という文と
おまえは財務省の犬だ
という文では、同じ犬という言葉がまったく違う意味で使われている。その意味は辞書に列挙されているが、どれに当たるかを知るには、その前後の文脈を知る必要がある。逆にいうと、文脈が決まれば意味も決まる。あなたは次の図で真ん中にある記号を何と読むだろうか。

続きはアゴラサロンでどうぞ(初月無料)
古典的人工知能が挫折した最大の難関は、意味の表現だった。常識的には、たとえば「犬」という単語が特定の動物を示すように、単語と概念には1対1の関係があると考える。これはソシュールからチョムスキーに至るまで同じだが、機械学習に使うには限界があった。
犬という概念をコンピュータに教えるには、犬についての辞書的な情報を教えるだけでは役に立たない。
家に帰ると犬がじゃれついてきた
という文と
おまえは財務省の犬だ
という文では、同じ犬という言葉がまったく違う意味で使われている。その意味は辞書に列挙されているが、どれに当たるかを知るには、その前後の文脈を知る必要がある。逆にいうと、文脈が決まれば意味も決まる。あなたは次の図で真ん中にある記号を何と読むだろうか。

続きはアゴラサロンでどうぞ(初月無料)