AIは何を勉強してきたのか。膨大な文章の穴埋め問題

会話AIはなぜ、あんなに自然に喋れるのか。
中の人がいるわけでも、巨大な辞書を引いているわけでもありません。
種明かしをすると、彼らは膨大な量の穴埋め問題を解いて育っています。

穴埋めの英才教育

「メスティンでご飯を＿＿」の空欄に入る言葉は。
たくさん文章を読んだ人なら「炊く」と答えられますよね。
AIの訓練はこれの途方もない規模版で、ネット上の文章を大量に読み、次に来る言葉を当てる練習を何兆回も繰り返します。

すると、言葉のつながり方のパターンが体に染み込む。
文法を教わっていないのに文法通り話せるのは、丸暗記ではなくパターンの染み込みだからです。

この出自から分かること

AIの得意も苦手も、この育ち方から説明がつきます。
文章の要約や言い換えが得意なのは、言葉のパターン処理そのものだから。
最新ニュースに疎いのは、勉強に使った文章がある時点で締め切られているから。
堂々と間違えるのは、事実の照合ではなく「それらしい続き」を作る仕組みだから。

仕組みを知ると、過度に恐れることも、過度に信じることもなくなります。
道具は正体を知ってから使う。刃物も火もAIも、そこは同じだと思います。