www.jiji.com
時事ドットコム
700億パラメータは現時点で日本語最高峰か?・・と思ったんだけど、これはミスリードだと思う。
「最大700億パラメータのモデル群を公開」とあるけど、モデル群ってなんだ?最大?
ということで公開されているモデルを見てみると、
「Language(s): Japanese」となっているLLMはStableLMやLLamaをファインチューニングした70億(7b)のもの。
700億(70b)のものは、マルチモーダルモデルで「Language(s): English」だった。