今週の気になったAIニュース vol. 219

ITmedia AI＋

Anthropic、AIの“内なる思考”が宿る「J-space」を発見──新手法「J-lens」で可視化...

https://www.itmedia.co.jp/aiplus/article/2607/07/2000000162/

Anthropicは、LLMの内部に人間の意識研究における「グローバルワークスペース」に類する構造「J-space」が自然発生していることを発見し、新手法「Jacobian lens」を公開した。モデルが言語化しない隠れた思考を一部観測でき、評価への気づきや不正コードの意図を検知できるため、AIの安全性監視に応用できるとしている。

PC Watch

ブラウザを小さくするとAI画像生成が最大4割高速に？Windows環境で発生する謎

https://pc.watch.impress.co.jp/docs/news/2124141.html

　掲示板Redditにおいて、「WebブラウザのウィンドウサイズがStable Diffusionの実行速度に影響する」という報告があり、注目を集めている。

PC Watch

スマホで27B級LLMが動く！PrismMLが「Bonsai 27B」を無料公開

https://pc.watch.impress.co.jp/docs/news/2125273.html

　PrismMLは7月14日(米国時間)、270億パラメータ(27B)の能力をノートPCやスマートフォンクラスといった端末にもたらすLLM「Bonsai 27B」シリーズを発表した。Apache 2.0ライセンスで公開され、Hugging Faceから無料でダウンロードできる。

前のアシスタント軸についてもそうだったが、AnthropicはLLM内部の可視化に関する研究で先行している。活性化エンジニアリングに強い人でもいるんだろうか。

量子化モデルはついに1ビットLLMの時代に到達。1ビットLLMは学習に工夫がいるという認識だったが、これはQwenを元にしているらしい。どうやって動いているのか気になるので調べてみたい。