今週の気になったAIニュース vol. 183

PC Watch

Microsoft、大規模モデル並みの推論性能を実現する新たな軽量AIモデル

https://pc.watch.impress.co.jp/docs/news/2011715.html

　Microsoftは4月30日、Phi-4ベースの小規模な推論AIモデル「Phi-4-reasoning」、「Phi-4-reasoning-plus」、「Phi-4-mini-reasoning」を発表した。

GIGAZINE

IBMが大規模言語モデルの「Bamba」をオープンソースで公開

https://gigazine.net/news/20250430-bamba-ibm-ai/

IBMリサーチがカーネギーメロン大学やプリンストン大学、イリノイ大学と共同で、オープンソースの大規模言語モデル「Bamba」を構築し、そのバージョン2をオープンソースとしてリリースしました。

www.itmedia.co.jp

第2のDeepSeekショック？　オープンな中国LLM「Qwen3」シリーズが破格の性能で話題...

https://www.itmedia.co.jp/aiplus/articles/2504/29/news087.html

　中国Alibabaが4月29日（現地時間）に発表した、大規模言語モデル「Qwen」の最新版となる「Qwen3」シリーズが話題だ。フラッグシップモデルの「Qwen3-235B-A22B」は「DeepSeek-R1」の半分未満のパラメータ数ながら、OpenAIのo1やo3-mini、GoogleのGemini 2.5 Proなど他のトップモデルと並ぶ性能を達成したという。「Qwen3-4B」は小さなモデルでありながらも「GPT-4o」を多くの項目で上回るとしている。

Qwen3で中華モデルが猛威を振るう週かと思いきや米国製モデルもなかなか頑張っている。

MicrosoftのPhi-4、
＞OpenAI o3-miniによる生成データなどを用いた教師ありファインチューニング

って、OpenAIからの知識蒸留は公然の秘密だと思っていたけど、堂々と書いているの初めて見た。

IBMは何か違うことトライしているらしい。過去の生成文の隠れ状態を保持する、っていうのは、TransformerよりRNN（LSTM）に近い動作に見える。

（そういえばTransformers are RNNsって論文があったなとおもって改めて調べてみたらもう5年間の話なのか・・・）