
NVIDIA GB10搭載のスパコン一台欲しい・・・というかこれまでのAIプロジェクトの企画がひっくり返らないか?
NVIDIAが発表したときの想定価格は3,000ドルだっけか。
この程度でLLMがオンプレミスで動かせるようになるなら、OpenAIとかいらね、ってならないか。
どのプロジェクト行ってもトークンコストが高くて・・・という話ばっかり。
でもRAG程度に使うだけだったら、数十億パラメータ程度ので十分なのが出てきてるものね
NVIDIA GB10搭載のスパコン一台欲しい・・・というかこれまでのAIプロジェクトの企画がひっくり返らないか?
NVIDIAが発表したときの想定価格は3,000ドルだっけか。
この程度でLLMがオンプレミスで動かせるようになるなら、OpenAIとかいらね、ってならないか。
どのプロジェクト行ってもトークンコストが高くて・・・という話ばっかり。
でもRAG程度に使うだけだったら、数十億パラメータ程度ので十分なのが出てきてるものね