DeepSeek-R1の検閲部分だけ再学習させてきちんと答えるモデルを作ったと。 まぁ元々知識として知っているAIに言っちゃいけないことを覚えさせたモデルのようだったからそれも可能なのだろう。 教師データの段階から検閲し […]

自然言語でCADを生成するAI、やっぱりこういった方向へと進んできたかという印象。 去年末あたりから物理世界AIが活発だったし。 これも中国発となると、AIに関して中国はホント侮れなくなってきた。 基礎研究的なところから […]

Open Deep Research、中身のLLMはOpen AIのo1モデルなんだ。 これをDeepSeekに置き換えたらOpen Deep DeepSeek Researchか？ DeepがDeepSeekじゃなくて […]

DeepSeek旋風に振り回された感があるけれど、元々アメリカのAIエコノミーがバブルと投資で回っていた異常なものだったという見方もできる。 おまけ：https://qiita.com/tanreinama/items/ […]

新しく中国製モデルが登場。 言論統制とかやってる国のAIってどうなの？だけど、動画生成AIでは既に中国製がトップランナーだしな・・・ AI作成と中国文化の相性が良いんだろうか？ 新しいAIテストセットも登場。 新しいテス […]

OpenAI、APIで3rd partyでエコシステムを作ってね方向に行くのか、 全部を自分で作ってユーザーを囲い込む方向に行くのか、 どうやら囲い込む方向に行きたがっているようだ。 でもChatGPT Taskとかそん […]

なんか年末から物理法則×生成AI関係のジャンルが賑わっている気がする。 Genesis、Cosmosと一気に出てきた。 当然これは、AIに制御されるロボットを作るための環境作りという文脈なので、さらにその先がある。 こう […]

OpenAI、Googleが相次いで新モデルを公開。 ここら辺だと既にプロンプトエンジニアリングも含んだ複合モデルなんだろうから、新「モデル」と呼んでいいのかどうかも解らない。 詳細は当然企業秘密なんだろうけど、このまま […]

強化学習から目標達成を優先してその他の指示を無視する、というのは理解できる。 LLMにとって指示は目標の指示も条件設定の指示も同じで、拘束条件の中で目標を達成とか解りそうにないと思う。 でも「シャットダウンのリスクを察知 […]

溜まってたので少し古いのも含む。 巨大LLMがたった1つのパラメータで崩壊するというの、逆に言うと同レイヤーはその1つ以外パラメータにその他の情報が分散されているってことだな。 CNNの画像認識では、チャンネル内に重複す […]