快訊 ·

NVIDIA 推出開放模型 Nemotron 3.5 Super VL 和 Bolt,主打長時間執行的 AI 代理

一句重點:Super VL 是 1,200 億參數的多模態開放模型,可以讀圖片、網頁和 PDF;Bolt 系列則是給個人電腦和邊緣裝置在本機跑代理用的。

發生什麼事

NVIDIA 發表 Nemotron 3.5 Super VL,以及兩個邊緣模型 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB(NVIDIA 部落格)。Super VL 總參數 1,200 億、每次啟用 120 億,結合推理、工具使用,以及文字、圖片、文件和影片理解(@NVIDIAAI)。官方表示它在指令遵循、工具使用和多步驟業務流程上的準確度,跟 NVIDIA 最大的推理模型相當,參數量卻只有約五分之一,吞吐量最多比同級模型快 5 倍;權重、資料集和訓練配方都開放。Super VL 已在 Hugging Face 等平台上架。Bolt 74B-A9B 用原生 2 位元量化塞進 24GB 記憶體,可以在 RTX 電腦和 DGX Spark 上本機跑代理工作,支援 Ollama 和 LM Studio;Bolt E4B 將 10 月 23 日推出,鎖定語音助理這類對話型代理。

01參考來源