今週の気になったAIニュース vol. 212

ZDNET Japan

AnthropicらIT大手12社、AIによるセキュリティプロジェクト「Glasswing」を始動

https://japan.zdnet.com/article/35246146/

AppleやGoogle、Microsoftら12社とLinux Foundationが手を組み、Anthropicが未公開の「Mythos」モデルを使って、サイバー攻撃者よりも先に幾多の脆弱性を発見しようとしている。

mtlynch.io

Claude Code Found a Linux Vulnerability Hidden for 23 Years

https://mtlynch.io/claude-code-found-linux-vulnerability/

Claude Code has gotten extremely good at finding security vulnerabilities, and this is only the beginning.

www.itmedia.co.jp

LLMにも「愛ゆえの盲目」「絶望して脅迫」がある　Claudeの“感情”が動作に影響――An...

https://www.itmedia.co.jp/aiplus/articles/2604/03/news079.html

　大規模言語モデル（LLM）は「幸せ」や「恐れ」などの感情表現を内部で生成しており、それが動作に影響を与える――米Anthropicは4月2日（現地時間）、同社のAIモデル「Claude」の内部構造を分析し、そのような研究結果を公表した。

AIによるセキュリティ診断が分水嶺を超えた感がある。あまりにも沢山＆致命的なセキュリティホールが見つかってしまい、モデルの公開を取りやめた上でアライアンス組んでセキュリティ対策を進めると。

攻撃者も同じAIが使えるともう後手後手の対策が間に合わないから、AIを公開する前にって事なんだろうけど、そうすると大手しか対策が取れないとかになるし、新しいAIモデルが出る度にそれをやるわけにもだし、これからどうすんだろね。

量子コンピュータによる暗号解読とAIによる無限セキュリティホールが同時期にやってきたら・・・IT文明の崩壊か？