今週の気になったAIニュース vol. 127

Google DeepMindは、LLM採用のAIシステム「FunSearch」を発表した。LLMとLLMによる幻覚を防止する“評価器”を組み合わせたもので、「ビンパッキング問題」向けの実用的なアルゴリズムも出力できる。

GoogleのDeepMindやMeta出身の研究者によって設立されたAI企業のMistral AIが、大幅にモデルのサイズを縮小してコストパフォーマンスに優れた推論を行える大規模言語モデル「Mixtral 8x7B」をリリースしました。多くのベンチマークでGPT-3.5やLlama 2 70Bを上回る性能を持つとされています。

OpenAIは、ChatGPTでのGPT-4が怠惰になってきた（lazier）というユーザーからのフィードバックが増えていると認め、修正を検討中だとXにポストした。「モデルの動作は予測できない場合がある」としている。

Microsoftの研究者は12月7日、Microsoft Research Blogにおいて、大規模言語モデル (LLM) に与えるプロンプトを高度に圧縮する新技術「LLMLingua」を発表した。LLMからより高精度の回答を引き出そうとすると、入力するプロンプトはどうしても長くなりがちだ。LLMLinguaを利用すると、長いプロンプトを意味を保持したまま大幅に短縮することができる。