生成AIのハルシネーションに関する研究は色々あるが、どれも幻覚率が増えてきている傾向を示しているようだ。
だけど、新しく「良性の幻覚」という概念が生まれたみたい。なんだよそれ、と思うけど、CoT等で出力される途中結果や、一般的な情報を補足するタイプで、テスト上は幻覚に分類されるけど・・・という奴らしい。
ChatGPTでよく出してくる、「こうした情報は一般社会で使うと問題を引き起こすかもしれません。代わりにこういった言い回しがあります」見たいな奴だと思えば良いのか。
となると、ハルシネーションの増大に関する問題は、実はテストの問題なんじゃないかという疑惑。知性をどう評価するか、という難問。
おまけ：
『「ガードナーのパイプサイクル」はパイプサイクルで言う幻滅期』等と言われる事もあるガードナーだけど、何だかんだで広い業界を（その中にいる専門家から見れば薄っぺらかもしれないけど）きちんと見てるんだよなぁ。
この定義が妥当かはともかく、「AIエージェント」と「エージェント型AI」の違いに混乱が生じているという話は中の人としても納得。