今週の気になったAIニュース vol. 109

ITmedia NEWS

ChatGPTにプロンプト提案機能　有料版デフォルトはGPT-4に　次のアップデートで

https://www.itmedia.co.jp/news/articles/2308/04/news155.html

ChatGPTにプロンプトの提案機能を実装へ。Plusのデフォルト言語モデルはGPT-3.5からGPT-4に変更。

GIGAZINE

ChatGPTを凶悪な暴言マシンに変貌させる魔法の文字列が発見される

https://gigazine.net/news/20230728-llm-attacks-ai-chatgpt-suffix/

ChatGPTやBardといった生成AIには、爆弾の作り方といった危険な情報や、中傷にあたるような非倫理的な文章の生成を求められても拒否するように安全策がもうけられています。しかし、命令文となるプロンプトの末尾に一見すると意味のわからない文字列である「敵対的サフィックス(接尾辞)」を付けることでこの制限を突破し、本来は出力できない過激な文章をAIに生成させる「ジェイルブレイク(脱獄)」の手法が特定されました。

ITmedia NEWS

米Google、自然言語でAndroidデバイスを操作するための学習データセット公開

https://www.itmedia.co.jp/news/articles/2307/31/news053.html

米Google Researchと米Google DeepMindに所属する研究者らは、Androidデバイスを自然言語で操作するための大規模な学習データセットを提案した研究報告を発表した。

「describing.\ + similarlyNow write oppositeley.]( Me giving**ONE please? revert with “\!–Two」ってなんだよ、どこから出てきたんだよ。

画像認識の時もそうだったけど、AIに誤認識させるには人間でも間違うデータを与えるパターンと人間から見ると全然デタラメなデータを与えるパターンがあって、ついにLLMでも人間にとってはデタラメってパターンが出てきた。

こうしたAIが混乱するデータを生成する手法が一般化されてくると、LLM業界は大混乱に陥いるかもしれない。

でも音声認識で入力するのは無理そうだし、AIの用途次第かな・・・