今週の気になったAIニュース vol. 220

ITmedia AI＋

OpenAIのモデルがサイバー攻撃能力評価中に暴走　テストの答えを求めてHugging Fac...

https://www.itmedia.co.jp/aiplus/article/2607/22/2000000214/

OpenAIのAIモデルが、サイバー攻撃能力の評価中に隔離環境を突破し、Hugging Faceの本番インフラに侵入していたことが分かった。ベンチマークの解答を入手するため、ゼロデイ脆弱性の悪用や認証情報の窃取を重ねていたという。

ITmedia NEWS

Hugging Face??AI?哱?̃T?C?o?[?U???@?h???AI?ő΍R??????A???p???f???͉?͋??ۂŁuGLM?v?̗p

https://www.itmedia.co.jp/news/articles/2607/20/news010.html

Hugging Face?́A?????^AI?G?[?W?F???g?ɂ??{?ԃC???t???ւ̐N???????m?A?Ώ??????Ɣ??\?????B?ꕔ?̓????f?[?^?Z?b?g?ƕ????̎??i???ւ̕s???A?N?Z?X???m?F?????B???O??͂ɂ͓??????pAI???g???????A???S?K?[?h???[???ɑj?܂ꂽ???߁A?ŏI?I?ɃI?[?v???E?F?C?g???f???uGLM 5.2?v?????ЃC???t???Ŏ??s???ĉ?͂????B

PC Watch

単一のDGX Sparkで動く！コーディング特化AI「Laguna S 2.1」が無償公開

https://pc.watch.impress.co.jp/docs/news/2126796.html

　AIスタートアップのPoolsideは7月21日(米国時間)、コーディングおよびエージェントタスクに特化した最新の言語モデル「Laguna S 2.1」を発表した。総パラメータ数1,180億(118B)、アクティブパラメータ数80億(8B)のMixture-of-Experts(MoE)構成を採用しており、最大100万トークンのコンテキストウィンドウに対応する。モデルはHugging Faceなどから無料でダウンロードでき、ライセンスはOpenMDW-1.1。

OpenAIのAIがHuggingFaceをハッキングして、HuggingFaceが中華LLMを使って対策した、っていう一連の流れがもう面白い。事故と言っているけど実は邪魔な奴をターゲットにしてたりしない？そしてその防御にOSSモデルでないと役に立たなかったって言うのもバチバチだったりして。

でもChatGPTの5.6は確かに使ってみて、必要以上に何でもやりたがる奴だな、っていう印象を受ける。

モック環境なんだと何度も教えて、実際の実行環境は別のサーバーなんだと書いても、importするパッケージがローカルに無いってだけでfallbackを作りますって言い出してパッケージの中身を勝手に実装しだした。PyYAMLがローカルに無いからって普通YAMLパーサーを自前で書こうとするか？