發生什麼事
NVIDIA 發表 Nemotron 3.5 Super VL,以及兩個邊緣模型 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB(NVIDIA 部落格)。Super VL 總參數 1,200 億、每次啟用 120 億,結合推理、工具使用,以及文字、圖片、文件和影片理解(@NVIDIAAI)。官方表示它在指令遵循、工具使用和多步驟業務流程上的準確度,跟 NVIDIA 最大的推理模型相當,參數量卻只有約五分之一,吞吐量最多比同級模型快 5 倍;權重、資料集和訓練配方都開放。Super VL 已在 Hugging Face 等平台上架。Bolt 74B-A9B 用原生 2 位元量化塞進 24GB 記憶體,可以在 RTX 電腦和 DGX Spark 上本機跑代理工作,支援 Ollama 和 LM Studio;Bolt E4B 將 10 月 23 日推出,鎖定語音助理這類對話型代理。
01參考來源
- Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models:NVIDIA 官方部落格,模型規格、效能說法、上架平台
- @NVIDIAAI:NVIDIA AI 官方帳號發表 Super VL,參數規模
- Hugging Face 模型頁:Super VL 開放權重