随着人工智能技术的飞速发展，对高性能计算硬件的需求也日益增长，企业在选择GPU厂商时面临成本、兼容性和性能等多重考量。传统上，企业深陷于各大GPU供应商的软件生态锁定，导致灵活性不足、开发效率低下以及总拥有成本增加。在这样的大背景下，Modular 25.4版本的推出无疑为行业带来了全新解决方案，突破了GPU供应商的束缚，实现了AMD与NVIDIA GPU在同一容器环境下一体化支持，构建起真正无锁定、跨平台的AI计算基础设施。Modular 25.4不只是一次版本升级，更代表着AI计算力获取的民主化进程，助力更多开发者和企业释放算力潜能，打造高效、经济、灵活的AI部署体系。Modular 25.4的最大亮点在于其对AMD GPU的官方全面支持，尤其是在AMD MI300X及MI325X两大企业级GPU上的深度优化。通过与AMD达成战略合作，Modular团队实现了让开发者无需修改代码或调整容器即可在AMD硬件上运行加速AI模型的目标。
相比传统架构，Modular在多个主流大型语言模型（LLM）工作负载中，完成了超过50%的吞吐率提升，显著优于行业水平。尤其是在基于BF16格式进行预填充的重负载场景，如Llama-3.1-8B、Gemma-3-12B、Mistral-Small-24B等模型上，Modular不仅实现了高效运算，更在价格性能比上展现出惊人优势。与此同时，Modular 25.4还实现了在MI325X GPU上的ShareGPT工作负载下，与运行于NVIDIA H200同类负载的vLLM工具达到或超越的吞吐率水平，显示出AMD新一代GPU在AI推理领域的巨大潜力。此次发布还特别强调开放性，通过扩展对AMD消费级GPU的初步支持，涵盖所有RDNA3和RDNA4系列显卡及其优化方案，进一步扩大了Modular平台的硬件兼容范围。与此同时，NVIDIA GPU支持也得到进一步拓展，覆盖从RTX 20系列至最新的50系列显卡，全线打造统一代码库，将大量不同型号GPU聚集在同一生态中运行。这种接近零迁移成本的通用容器模式，帮助企业轻松构建跨设备的弹性AI基础架构，有效避免因硬件升级引发的频繁重构，节约开发与维护资源。
Modular 25.4不仅聚焦硬件兼容性，更对开发者体验进行全方位优化。全新的文档生态经过重构，集成统一导航体系，信息检索更加便捷。无论是AI编码助手的使用指南，还是从图结构搭建多层感知机（MLP）模块的详尽教程，抑或是PyTorch自定义算子开发与内核性能分析，这些资源都为开发者提供了系统且深入的知识支持，极大降低AI研发门槛。值得一提的是，Python与Mojo语言的紧密绑定成为25.4版本一大技术亮点。Mojo语言以其极致的性能优化和易用性备受关注，而Python作为全球最流行的AI开发语言，其生态与开发者群体庞大。Modular 25.4引入的Python-Mojo绑定功能，允许开发者直接调用Mojo函数，无需繁琐的构建流程和依赖管理，令Python代码中性能关键路径得以无缝替换为高效Mojo实现，从而实现性能和开发效率的双重飞跃。
该功能现处于开发者预览阶段，鼓励社区积极试用和反馈。此次版本更新还象征着Modular开放战略的深化。超过45万行生产级Mojo内核与服务代码已经开源，MAX AI内核库向社区开放，邀请全球开发者贡献代码，从支持新硬件架构，到新增关键算子，乃至底层性能优化，开发者都能在这一生态中发挥作用。社区活跃参与将加速技术迭代，推动AI基础设施技术的全方位进步。Modular 25.4强化了对多样化大规模模型的支持。GGUF格式量化的Llama模型系列通过采用分页KV缓存策略，在模型推理优化方面取得显著成果。
新引入的Qwen3系列模型具有先进推理能力和多语言支持，适合企业多场景应用。OLMo2家族同样为科研和通用任务提供高效工具，而Gemma3多模态模型则在性能和安全性提升方面表现突出，使平台能够满足更广泛而复杂的AI应用需求。这一切不仅展示了Modular全栈生态的成长路径，也让用户能够根据自身业务需求灵活选用最合适的开源模型组合。在经济性方面，AMD MI300X和MI325X GPU在许多AI推理场景下展现出极具竞争力的性价比，用户可以基于真实的业务需求和整体拥有成本灵活调整硬件选择，而非被单一厂商定价策略所限制。无论是节约资本投入还是优化运营成本，Modular 25.4的跨GPU供应商支持为企业提供了更多自由和可能。面对日益激烈的AI市场竞争，构筑可持续、开放而富有韧性的AI基础设施成为必然趋势。
Modular 25.4回应了这一需求，为企业打造了从容应对供应链波动、避免厂商锁定、提升成本效益的坚实技术基石。通过单一容器支持多种GPU的设计理念，企业不仅获得了部署灵活性，更减少了维护复杂度和整体风险。为了推广这一系列创新成果，Modular团队还计划举办丰富的社区活动。6月27日至29日的Modular Hack Weekend将以GPU编程工作坊开场，通过现场与直播的形式普及GPU编程技术，联动全球开发者共同探索AI算力的极限。此外，新推出的GPU Whisperers漫画系列则以轻松诙谐的方式讲述了生成式AI革命中的种种故事，拉近技术与用户的距离，激发社区活力。这不仅是技术升级，更是一场声势浩大的生态建设运动。
总而言之，Modular 25.4开创了高性能AI计算平台的新纪元。它通过支持AMD和NVIDIA GPU的单一容器环境，破解了传统GPU供应商的锁定困境，解放了企业在硬件选择上的主动权。性能提升、成本优化、开发者友好、生态开放等多重优势的叠加，使得Modular平台成为众多AI研发团队和企业构建未来智能应用的理想基石。随着技术的持续演进，开放协作的创新生态将不断孕育更多突破性成果。投入Modular 25.4怀抱，未来的AI高性能计算之路必将更加宽广且精彩。欢迎广大开发者和企业立刻体验Modular 25.4，通过官方快速入门指南和丰富的教程，开启跨GPU供应商的无锁定AI计算新旅程，携手共创智能时代的辉煌未来。
。
![A Cheeky Pint with OpenAI Cofounder Greg Brockman [video]](/images/99AC135D-2FBA-4EE7-AA00-D78442AAEC0A)
