普通の素人がChatGPTにフェイク音声の作り方を聞いて、APIを使ってヘイト音声を作って上司を貶めようとしたという話。 ファイルのメタタグに自分の名前が残っていたというお粗末さ。 そしてGPTsのカスタムGPTを使った […]

普通の素人がChatGPTにフェイク音声の作り方を聞いて、APIを使ってヘイト音声を作って上司を貶めようとしたという話。 ファイルのメタタグに自分の名前が残っていたというお粗末さ。 そしてGPTsのカスタムGPTを使った […]

MixtralやらLLaMaやらいろいろあるけれど、いまいち商業的に話題になってないのは何でだろう？ 課金に繋げるだけの性能がないのか、OpenAIがそれだけ進んでいるって事なのか。 プログラミングサポートのAIはありが […]

LLMの応用について、アプリに組み込んで操作サポートというのは分かりやすい用途。 こちらの用途の方が先行してゆくのかね。 Appleが取り組んでいるのは理由が分かりやすい。

ジェイルブレイク手法2件。 アスキーアートに関しては自分もLLM作るとき腐心したところ。 結局、専用の文字トークンにマッピングするしかないとなったけど、それだけじゃ当然すまないんだよね。 1.58bitってなんぞやと思っ […]

CAIOっていう響き何となくいいな。 自分も肩書きに追加してみようか。 RatNetの日英版、まぁいいんだけど、学習に関するデータとかノウハウとかきちんと積み上げないまま新しい技術を導入しても、Transformerと完 […]

AIがReadmeを読んで環境構築するとか超便利そう。 ただ何も考えずに実行して、いろいろ破壊されるかもしれない。 モデル窃盗攻撃・学習データとかそう言うのではなくて、LLMのモデルの重みパラメーターを直接取ってくるもの […]

「カーク船長になりきって」と指示すると数学スコアが向上するというリサーチ。 プロンプトに役割を指示するとスコアが向上することは知られていたけど、それはLLMにある種の個性というべきバイアスを導入するからだと思っていた。 […]

Transformerが5倍高速になったというニュースが出た。 実はTransformerの計算量はO(N^2)なのだが、これをO(N)にしたという技術としてTransformers are RNNs（https://a […]

OpenAIの動画生成AIすごい、Gemini1.5では動画入力から返答が出る。 そんな中Appleは静止画の編集AIを（ひっそりと）リリース。 プロンプトにエモーショナルな入力を入れれば良いよってそれモデルの性能とは違 […]