亚马逊AWS将部署Cerebras晶圆级AI芯片CS-3，与自家Trainium配套使用

亚马逊AWS与Cerebras联手推出混合AI推理系统

科技界又有新动向。3月16日消息显示，亚马逊AWS与晶圆级AI芯片企业Cerebras在本月13日联合宣布，将在未来数月内通过Amazon Bedrock平台部署一款创新的混合AI推理系统。这个系统的特别之处在于，它巧妙结合了双方的芯片产品，承诺带来前所未有的负载处理速度。

技术架构的巧妙融合

这套解决方案的技术组合堪称精妙。它将Cerebras的CS-3系统、亚马逊AWS的Trainium芯片，以及AWS的EFA弹性网络适配器有机地整合在一起。具体分工是这样的：Trainium芯片负责推理的预填充阶段，也就是提示处理；而CS-3则专注于解码环节，承担输出生成任务。两者通过EFA连接器紧密协作，形成一个完整的工作闭环。

为何这种组合更具优势？

这就要从AI推理的工作特性说起了。推理预填充本质上属于并行工作负载，对计算能力要求极高，同时需要适中的内存带宽支持。相反，推理解码则是串行工作模式，虽然对算力需求相对较小，但对内存带宽的要求却非常高。

这种组合的聪明之处就在于，它让两款AI芯片各展所长——Trainium发挥其并行计算优势，CS-3则充分展现其高内存带宽特性。两者相辅相成，最终为用户带来更优质的使用体验。这种设计思路确实值得称道。

（溯波）