AMD拿下Taalas 加码AI推理ASIC硬件布局

Taalas的技术核心可归纳为"模型即硅基硬件"。在现有的通用GPU或TPU框架内，模型参数与权重数据存放于外部高带宽存储器内，运算时须通过高密度互连通道在存储与计算单元之间反复进行数据迁移。这种存算解耦的冯氏架构高度依赖高密度先进封装、三维堆叠工艺、超高IO带宽以及大功耗液冷散热方案。

Taalas的革新之处恰恰是解除了对高带宽内存与先进封装的刚性依赖：

模型权重硅基烧录：Taalas将固定的模型架构与绝大多数权重参数直接固化写入芯片的掩模ROM存储结构中。

片上缓存深度集成：芯片将键值缓存与微调适配器直接嵌入片上SRAM单元。

参数物理刻蚀固化：参数借助硅片自身的物理结构予以锁定，由此实现无需HBM、无需三维堆叠与高密先进封装、无需液冷散热的极简硬件架构。

根据其采用台积电6nm工艺流片的测试芯片实测数据，该芯片在处理Meta Llama 3.1 8B模型时，推理吞吐高达每秒16960 Token，表现出极高的能效比与吞吐能力。

AMD拟将Taalas的技术深度整合至其全栈式AI体系，覆盖Helios机架平台、Instinct GPU、EPYC CPU及ROCm软件生态，并将与Instinct GPU联合研发系统级整体方案。同时，结合AMD此前与Cerebras在晶圆级芯片云端及机架层面的深度协作，以及英伟达授权Groq技术、头部云厂商自研专用芯片等动向，AI算力底座正经历深度的架构重塑。