發生什麼事
NVIDIA 这次发布三个模型:Super VL,加上两个边缘模型 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB(NVIDIA 博客)。Super VL 每次激活 120 亿参数,结合推理、工具使用,以及文字、图片、文档和视频理解(@NVIDIAAI)。NVIDIA 表示,Super VL 的规模只有自家最大推理模型的约五分之一,在多模态的智能体任务中准确度却相当;最多快 5 倍,吞吐量在同级模型里最快。训练配方、数据集和权重全公开,已在 Hugging Face 等平台上架。Bolt 74B-A9B 靠原生 2 位量化塞进 24GB 内存,可以在 RTX 电脑和 DGX Spark 上本地跑智能体任务,支持 Ollama 和 LM Studio;将于 10 月 23 日推出的 Bolt E4B,锁定语音助手这类对话型智能体(NVIDIA 博客)。
01参考来源
- Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models:NVIDIA 官方博客,模型规格、性能数据、上架平台
- @NVIDIAAI:NVIDIA AI 官方账号发布 Super VL,参数规模
- Hugging Face 模型页:Super VL 开放权重