AMD主导的开源AI服务器Lemonade 10.7版本发布

6月11日消息，这件事本身就挺有意思的——AMD主推的开源本地AI服务器项目Lemonade，刚刚发布了10.7版本。

这个版本最引人注目的变化，不是对自己产品的进一步优化，而是正式集成了NVIDIA CUDA后端。没错，AMD主导的开源方案，首次完整支持NVIDIA GPU的本地AI推理。

之前覆盖广泛，唯独缺少NVIDIA

Lemonade之前已覆盖相当广泛的硬件生态：

• AMD自家的Ryzen AI NPU
• Radeon和Instinct系列GPU
• x86_64架构的CPU
• 甚至Apple Metal GPU

但你仔细一琢磨就会发现，唯独缺了NVIDIA这一块。对于很多开发者来说，这多少有点遗憾，毕竟NVIDIA GPU在AI推理场景中的地位，大家都心知肚明。好在这个缺口，现在终于被补上了。

10.7版本具体更新：CUDA后端与跨厂商支持

具体到10.7版本，它在Windows和Linux双平台上同步集成了Llama.cpp的CUDA后端，同时还增加了NVIDIA GPU检测功能。这意味着，只要你的机器上插着NVIDIA显卡，不需要额外的折腾，就能获得和AMD硬件上几乎一致的本地AI体验。换句话说，Lemonade终于开始真正“跨厂商”了。

不仅如此，Linux平台上还首次加入了stable-diffinition.cpp的CUDA后端，同时引入了跨厂商的Vulkan扩展支持。这一系列动作，把GPU适配范围又往前推了一大步。可以这么说：从今天起，在用Lemonade搭建本地AI方案的时候，硬件选择基本上不再有门槛了。

新增工具：lemonade bench 实现性能对比标准化

这次更新里还有一个值得留意的工具——lemonade bench。它是Lemonade产品路线图中的重要一环，专门用来在Llama.cpp、FastFlowLM、vLLM、Ryzen AI等多个后端之间进行端到端的LLM推理性能对比。对于开发者来说，这个工具的意义很明显：之前想对比不同后端的实际表现，往往要自己拼凑测试流程，现在Lemonade把这件事标准化了，测试门槛大幅降低。

其他升级：模型支持与监控功能同步上线

除此之外，LMX-Omni模型支持和原生Prometheus实时监控端点等功能也一并上线。虽然这些听起来不像CUDA支持那样“炸裂”，但它们共同指向一个方向：Lemonade正在稳步推进，向一个真正能覆盖全场景的本地AI引擎演进。

细节亮点：外部开发者提交，AMD团队合并

最后，有个细节很值得注意。这次CUDA后端的合并，最初是由外部开发者提交的，最终由AMD团队合并进主线。换个角度看，这不仅仅是技术层面的补齐，更是一种姿态——AMD愿意在开放生态里接纳竞争对手的硬件，让开发者有更多选择。从行业的视角来看，这或许才是这次更新里最有意思的信号：跨厂商协作，正在从口号变成现实。

立即体验：代码开源，支持双平台实测

目前Lemonade 10.7版本已经可以通过项目主页直接下载体验，所有代码开源在GitHub上。如果你恰好手头同时有AMD和NVIDIA的设备，不妨实际跑一遍lemonade bench，看看在不同后端组合下，推理性能到底能差多少。毕竟，数据才是最直观的答案。

《夸克》非常好用的免费AI浏览器

下载APP查看