150 tokens/s!NVIDIA为谷歌DiffusionGemma提供首日支持:RTX/DGX全系可用
时间:2026-06-11 | 作者: | 阅读:06月11日消息,NVIDIA宣布为谷歌DeepMind最新发布的开放模型DiffusionGemma提供首日支持,覆盖GeForce RTX GPU、RTX PRO平台和DGX系统全系列。
DiffusionGemma基于Gemma 4架构,总参数25.2亿,推理时仅激活3.8亿参数,支持256K上下文长度,并针对NVIDIA硬件深度优化。。
与传统自回归模型逐个生成token不同,它采用文本扩散架构,每步可并行去噪256个tokens,在NVIDIA GPU上速度提升约4倍。
性能方面,NVIDIA通过Tensor Core架构和CUDA软件栈实现了无需额外调优即可获得优异性能。单块H100 GPU可达每秒1000 token,在DGX Spark上达150 tokens/s。
该模型支持BF16/NVFP4精度格式,开发者可通过Hugging Face Transformers在RTX 5090或DGX Spark上快速原型验证,生产环境可使用vLLM进行部署。
该模型采用Apache 2.0许可证开源,支持文本与图像多模态输入,支持完全运行于本地RTX或DGX平台,无需联网、无需按token付费。
目前已在Hugging Face Transformers、vLLM、Unsloth等框架中获得初始支持。
对于Windows开发者,RTX 5090用户可立即下载体验;专业级用户则可选用RTX PRO 6000工作站或DGX Station完成大规模部署和微调任务。
来源:https://news.mydrivers.com/1/1128/1128773.htm
免责声明:文中图文均来自网络,如有侵权请联系删除,心愿游戏发布此文仅为传递信息,不代表心愿游戏认同其观点或证实其描述。
相关文章
更多-
- NVIDIA最深的护城河要凉!AMD放言:CUDA已不值一提
- 时间:2026-07-24
-
- 等等党彻底输了!NVIDIA显卡全线调涨价格:GDDR7和GDDR6无一幸免
- 时间:2026-07-23
-
- 性能1.6倍于x86!NVIDIA亮出Vera CPU详细规格:88核、1.2TB/s LPDDR5X
- 时间:2026-07-22
-
- NVIDIA将详解DLSS5:AI生成逼真画面 但不会让游戏变质
- 时间:2026-07-20
-
- NVIDIA Jetson Thor家族新增T3000 T2000模组
- 时间:2026-07-19
-
- NVIDIA联合日本政经界推出全球首个国家级AI基础设施
- 时间:2026-07-18
-
- NVIDIA不想让你看的RTX 50热点温度:五款工具已绕过限制!
- 时间:2026-07-17
-
精选合集
更多大家都在玩
热门话题
大家都在看
更多-
- iOS 13.5.1电池续航差是电池耗电问题吗
- 时间:2026-07-25
-
- 苹果教育优惠开启 附购买攻略
- 时间:2026-07-25
-
- 苹果iOS 14 beta 2 测试版主要更新内容:除细节变化外修复多项Bug
- 时间:2026-07-25
-
- iOS 14 beta 2 是否解决内存占用过多问题?
- 时间:2026-07-25
-
- 受欢迎的奥特曼游戏有哪些
- 时间:2026-07-25
-
- iOS 14信息应用5大更新变化
- 时间:2026-07-25
-
- iOS 14正式版上线时间公布 官方全新介绍
- 时间:2026-07-25
-
- 最新苹果iOS 14 Beta 2版本更新内容全解析与升级教程
- 时间:2026-07-25

