今週の気になったAIニュース vol. 207

GIGAZINE

AIに「チーズ作り」などの無害な情報を学習させると化学兵器の作り方を学んでしま...

https://gigazine.net/news/20260127-anthropic-elicitation-attack/

AI開発者は、AIが有害な情報を出力することがないようさまざまな安全対策を施しています。ところが、厳密に思える安全対策でも「チーズの作り方」といった一見無害な情報で微調整されることで突破されてしまう可能性があることが明らかになりました。

ZDNET Japan

マイクロソフト、AIモデルの汚染を検出するスキャナーを開発--3つの警告サイン

https://japan.zdnet.com/article/35243563/

マイクロソフトは、侵害されたモデルを検出するための新しいスキャナーを開発したと発表した。

GIGAZINE

GPT-5.2やGemini 3 Proに匹敵するオープンソースAIモデル「Kimi K2.5」をMoonshot ...

https://gigazine.net/news/20260128-moonshot-ai-kimi-k2-5/

中国のAIスタートアップ・Moonshot AIがオープンソースのAIモデル「Kimi K2.5」をリリースしました。ベンチマークではOpenAIの「GPT-5.2」やAnthropicの「Claude 4.5 Opus」、Googleの「Gemini 3 Pro」を上回るスコアも記録しています。

Anthropicの研究もう一つ。

チーズ作りに化学兵器の情報が含まれているわけは無いのだが、前回の論文と合わせて考えると、事前学習時に既に潜在的に知っている知識を引き出すのだろう。

で、マイクロソフトのAIモデルの汚染の研究を考えると、事前学習時からスリーパーエージェントを組み込まれたモデルというのが有ったとして、これは相当やっかいな話になるぞっと。