近年来,人工智能技术的迅猛发展带来了巨大的计算需求,尤其是在大型语言模型和智能体AI领域,如何实现高效、低能耗的推理计算成为行业亟待解决的难题。Euclyd作为欧洲领先的超高效AI计算科技公司,近日宣布其革命性的推理架构 - - CRAFTWERK,展开了对智能体AI算力和能效的全新定义。CRAFTWERK不仅代表了当前全球最低功耗和成本每令牌的推理架构,更引领了未来人工智能数据中心架构的变革方向。CRAFTWERK的核心是其系统级封装(SiP)设计,该设计体积小巧,性能强大,集成了16384个定制的SIMD处理器,能够提供高达8 PFLOPS(FP16)或32 PFLOPS(FP4)的计算能力。更令人惊叹的是,这一SiP配备了1TB的定制超宽带存储器(UBM),带宽高达8000TB/s,显著提升了数据吞吐量和处理效率。这种创新的内存技术与定制计算单元的紧密结合,极大地降低了能耗,提升了推理的速度和成本效益。
基于CRAFTWERK SiP,Euclyd推出了其旗舰级机架式系统CRAFTWERK STATION CWS 32,将32个SiP集成,每秒实现超过700万令牌的推理速度,同时功耗仅为125千瓦。这意味着在处理Llama 4 Maverick这类大型语言模型时,Euclyd的解决方案在单位功耗和成本上实现了100倍于现有主流方案的提升。这种突破性的能效不仅降低了企业的运营成本,也为环境可持续发展贡献了力量。CRAFTWERK架构体现了Euclyd所谓的"定制计算哲学",该理念强调从硬件设计的每一层面进行深度定制,包括处理器核心、内存架构以及2.5D/3D先进封装技术。每个处理单元的寄存器和逻辑门都针对最大效率和最低功耗进行了优化,确保整个系统在高负载下依然能够保持极致的能效比和稳定性。这种硬件与系统层面的极致定制不仅提升了性能,也为未来智能体AI模型的复杂推理需求提供了坚实保障。
Euclyd的技术背后是欧洲工程严谨与可持续理念的结合。公司总部位于荷兰埃因霍温,同时在美国硅谷设有办事处,广泛吸纳全球顶级人才,打造绿色、社会责任感强、科技创新驱动的AI基础设施。公司创始人和首席执行官贝尔纳多·卡斯楚普强调,CRAFTWERK不仅是产品,更是一种重新定义数据中心推理计算效率和环保标准的理念实践。投资方及业界权威人士亦对CRAFTWERK项目给予高度评价。前ASML首席执行官彼得·温宁克看好Euclyd未来的发展潜力,认为该架构将加速智能体AI的普及应用,开启推理算力充足且经济的新时代,极大地促进AI在各行各业的深度融合。从技术角度看,CRAFTWERK的大规模SIMD处理器组合意味着能够执行高度并行的计算任务,尤其适用于神经网络推理中的矩阵乘加运算。
在FP4低精度计算模式下,CRAFTWERK通过大幅提升每瓦计算性能,满足了当前深度学习模型对低延迟和低能耗的双重需求。1TB超宽带内存的独特设计确保了数据快速传输,避免了传统存储瓶颈问题,这是提升推理性能的关键所在。环保角度上,随着全球数据中心能耗占比不断提升,降低AI推理运算中的电力消耗尤为关键。CRAFTWERK的高效能设计不仅减少了碳足迹,也助力企业实现更绿色的运营目标,对于响应全球气候变化挑战具有积极意义。作为新兴的计算架构,CRAFTWERK展示了如何在保证高性能的同时,兼顾环境和成本效益。行业影响层面,CRAFTWERK的发布无疑将激发更多厂商和研究机构关注推理算力的能效优化。
它有望打破传统GPU和FPU架构的能效瓶颈,为智能体AI模型的规模化部署提供可行方案。随着智能体AI技术被广泛应用于自动驾驶、智能机器人、自然语言处理及其他前沿领域,基于CRAFTWERK的硬件平台将成为基础设施升级的重要选择,推动AI生态系统的繁荣。展望未来,Euclyd计划持续优化CRAFTWERK架构,拓展更多定制化功能和应用场景,同时深化与科研机构和产业伙伴的合作,推动智能体AI硬件生态的多元发展。他们的使命是在追求极致性能和能效的同时,确保AI技术的普惠和社会责任,为下一代智能革命奠定坚实基础。综上所述,Euclyd凭借CRAFTWERK系统实现了全球最节能的千万亿次令牌工厂,极大地提升了智能体AI的推理效率和经济价值。这项技术创新不仅彰显了欧洲工程的实力,也引领了全球AI基础设施向更加绿色、高效的未来迈进。
随着CRAFTWERK的逐步商用,全球人工智能产业必将迎来计算能力和能效的双重飞跃,助推智能体AI迈向更智能、更可持续的新时代。 。
