AIは自信満々に間違える。それでも僕が使い続ける理由

AIに歴史の年号を聞いたら、堂々と間違った答えが返ってきた。
使ったことのある人なら、身に覚えがあると思います。
この現象は専門用語でハルシネーション、日本語だと幻覚と呼ばれています。

間違いの生まれ方

AIは事実の辞書を引いているわけではなく、この文章の続きとして自然な言葉はどれかを予測して喋っています。
だから知らないことを聞かれても、それらしい続きを作れてしまう。
悪気なく、流暢に、間違える。
知ったかぶりの上手な友人だと思って付き合うのが正解です。

仕事の割り振り方

僕の使い分けはこうです。
アイデア出し、文章の下書き、コードの叩き台。あとで自分が確かめられる仕事は、安心して任せる。
日付や数値や人名のような、確かめずに使うと事故る事実は、必ず出典に当たる。

間違えるから使えない、ではなくて、間違える前提で仕事を割り振る。
人間のチームでやっていることと、実はあまり変わりません。