今週の気になったAIニュース vol. 202

Yahoo!ニュース

Yahoo!ニュース

https://news.yahoo.co.jp/articles/5f92e0bdf958b6d8f1a669d0e5cbd0d68b0f2c81

Yahoo!ニュースは、新聞・通信社が配信するニュースのほか、映像、雑誌や個人の書き手が執筆する記事など多種多様なニュースを掲載しています。

GIGAZINE

検閲を解除した脱獄版LLMを簡単に生成できるツール「Heretic」

https://gigazine.net/news/20251117-heretic/

一般的に、大規模言語モデルには不適切な応答を出力しないようにする検閲が取り込まれています。この検閲をオリジナルの性能を可能な限り維持しつつ除去できるツールが「Heretic」です。

wirelesswire.jp

AIも“脳腐り”？ネットの「ジャンク」投稿が言語モデルの思考力を削る可能性

https://wirelesswire.jp/2025/11/91744/

大量の「いいね」やシェアを稼ぐことが目的の質の低いコンテンツを学習データに使うと、AI言語モデルが思考プロセス…

既にAIがデータ流出の主要経路になっているという話。ホントかどうかはともかく、AI導入推進する企業は事前にいろいろ考える必要がありそう。でももう既にどうやっても生成AIへのパスは遮断できない世界になってるしな・・・。やはり教育が必要なのか。

Heretic良さそう。再トレーニングではない手法でLLMから検閲を除去すると。ちらっとソースを見たけど、LLM内のパラメーターの特定の次元に上界と下界を設定して、その位置と範囲をベイズ最適化で見つけ出す仕組みのようだ。検閲のような特殊データは特定の小さな次元に押し込められている筈、という発想から。大分強引な気もするけどうまく動くらしい。