今週の気になったAIニュース vol. 130

ITmedia NEWS

“AI生成の文章／画像だけ”でデータを学習する手法　人間が作るものは一切使わず　G...

https://www.itmedia.co.jp/news/articles/2401/16/news061.html

Google ResearchやMIT CSAILに所属する研究者らは、合成画像と合成キャプションから視覚表現を学習するアプローチを提案した研究報告を発表した。

EE Times Japan

1つのGPU／CPUで推論可能な超軽量LLM「tsuzumi」を24年3月から提供へ

https://eetimes.itmedia.co.jp/ee/articles/2401/16/news083.html

NTTが、独自開発した大規模言語モデル（LLM）「tsuzumi」を2024年3月から提供開始する。tsuzumiは、パラメーターサイズが6億または70億と軽量でありながら、世界トップクラスの日本語処理性能を持つLLMだ。

GIGAZINE

特殊な訓練を受けたAIモデルがまるで潜伏工作員のように機密情報を漏えいする可能...

https://gigazine.net/news/20240118-sleeper-agent-ai-training/

自然な文章を生成する言語モデルは、通常であればセーフティがかかっていて、人間が不快だと感じることを言わなかったり、不適切な情報を出したりしないように訓練されています。ところが、最初の訓練で悪意を仕込まれた言語モデルは、後のテストで安全であることが確かめられたとしても、将来的に脆弱(ぜいじゃく)性が露呈してくる可能性があることが調査により判明しました。

ITmedia NEWS

イラストのAI学習を妨げる「emamori」正式サービス開始　有料プランも

https://www.itmedia.co.jp/news/articles/2401/17/news158.html

SnackTimeは17日、ネットにアップするイラストのAI学習を妨げるサービス「emamori」を正式発表した。無料プランと3つの有料プランを用意している。

AIが生成したデータのみからの学習、たしか以前に精度が下がるという研究があったと思ったが、画像認識ではなくCLIPのようなベクトル化に関するモデルのよう。

なるほど、確かにそうした使い方ならアリかもしれないと思った。

ということは、画像だけでなくテキスト系モデルでもGPTのような生成系ではなく、BERT系モデルの事前学習プロセスでならば上手くやれば使えるのかな？

AIモデルに特殊なキーワードで脆弱性を仕込む奴、なんか表には出ないまま色々使われたりしそうだなぁ。

「健康と美容のために食後に一杯の紅茶」