今週の気になったAIニュース vol. 138

ITmedia NEWS

生成AIに“アスキーアート”入りプロンプト入力→有害コンテンツ出力　米研究者らが新...

https://www.itmedia.co.jp/news/articles/2403/07/news064.html

米ワシントン大学などに所属する研究者らは、大規模言語モデル（LLM）がアスキーアートを正しく認識できないという脆弱性を利用して、LLMに有害なコンテンツを出力させる新しいジェイルブレーク（脱獄）攻撃を提案した研究報告を発表した。

GIGAZINE

大量の質問をぶつけて最後の最後に問題のある質問をするとAIの倫理観が壊れるとい...

https://gigazine.net/news/20240403-many-shot-jailbreaking/

「ChatGPT」など広く使われているAIサービスは、通常であればセーフティがかけられていて、「人を殺す方法」「爆弾をつくる方法」といった倫理的に問題のある質問には答えないようになっています。ところが、あまりにも多い質問を一度にぶつけてしまうことによりセーフティが外れ、AIが問題のある回答を行ってしまう可能性があることがわかりました。

GIGAZINE

Microsoftが1.58ビットの大規模言語モデルをリリース、行列計算を足し算にできて計...

https://gigazine.net/news/20240229-microsoft-1bit-llm/

Microsoftの研究チームがモデルのウェイトを「-1」「0」「1」の3つの値のみにすることで大規模言語モデルの計算コストを激減させることに成功したと発表しました。

ジェイルブレイク手法2件。

アスキーアートに関しては自分もLLM作るとき腐心したところ。

結局、専用の文字トークンにマッピングするしかないとなったけど、それだけじゃ当然すまないんだよね。

1.58bitってなんぞやと思ったけど、-1,0,1の3値を離散値として扱うネットワークだそうな。

0,1の2値の場合はバイナリネットワークと呼ばれてたはずだけど、3値だとどうなるんだろ？

トリリナリ？トライナリ？

なんか検索してもアニメのサジェストしか出てこないな・・・