150 tokens/s!NVIDIA为谷歌DiffusionGemma提供首日支持:RTX/DGX全系可用
时间:2026-06-11 | 作者: | 阅读:06月11日消息,NVIDIA宣布为谷歌DeepMind最新发布的开放模型DiffusionGemma提供首日支持,覆盖GeForce RTX GPU、RTX PRO平台和DGX系统全系列。
DiffusionGemma基于Gemma 4架构,总参数25.2亿,推理时仅激活3.8亿参数,支持256K上下文长度,并针对NVIDIA硬件深度优化。。
与传统自回归模型逐个生成token不同,它采用文本扩散架构,每步可并行去噪256个tokens,在NVIDIA GPU上速度提升约4倍。
性能方面,NVIDIA通过Tensor Core架构和CUDA软件栈实现了无需额外调优即可获得优异性能。单块H100 GPU可达每秒1000 token,在DGX Spark上达150 tokens/s。
该模型支持BF16/NVFP4精度格式,开发者可通过Hugging Face Transformers在RTX 5090或DGX Spark上快速原型验证,生产环境可使用vLLM进行部署。
该模型采用Apache 2.0许可证开源,支持文本与图像多模态输入,支持完全运行于本地RTX或DGX平台,无需联网、无需按token付费。
目前已在Hugging Face Transformers、vLLM、Unsloth等框架中获得初始支持。
对于Windows开发者,RTX 5090用户可立即下载体验;专业级用户则可选用RTX PRO 6000工作站或DGX Station完成大规模部署和微调任务。
来源:https://news.mydrivers.com/1/1128/1128773.htm
免责声明:文中图文均来自网络,如有侵权请联系删除,心愿游戏发布此文仅为传递信息,不代表心愿游戏认同其观点或证实其描述。
相关文章
更多-
- 谷歌远程桌面PIN码错误常见解决方法与步骤
- 时间:2026-07-03
-
- 谷歌服务框架内存占用大?后台优化与限制方法
- 时间:2026-07-02
-
- 谷歌安装器详细安装教程:含下载地址与步骤图解
- 时间:2026-07-02
-
- 谷歌服务框架安装后无法登录 Google账号连接失败解决方法
- 时间:2026-07-01
-
- 谷歌空间查看已安装应用权限的方法
- 时间:2026-06-28
-
- 谷歌小恐龙加速版极限反应在线挑战入口
- 时间:2026-06-28
-
- 荣耀Magic5输入法设置教程 详细步骤图文详解
- 时间:2026-06-27
-
- 谷歌染指好莱坞
- 时间:2026-06-23
精选合集
更多大家都在玩
大家都在看
更多-
- 高考志愿填报模板完整版附表格填写示例
- 时间:2026-07-04
-
- 2026好玩的挂机手游推荐
- 时间:2026-07-04
-
- 高考志愿填报规划师职业前景与报考指南
- 时间:2026-07-04
-
- 高考志愿填报实用指导与技巧
- 时间:2026-07-04
-
- 高考志愿填报时间安排
- 时间:2026-07-04
-
- 高考志愿填报系统使用技巧与注意事项
- 时间:2026-07-04
-
- 高考志愿填报模拟系统指南
- 时间:2026-07-04
-
- 高考志愿填报方法与技巧详解
- 时间:2026-07-04

