华为首度公开美团万亿参数大模型部署方案：昇腾A2推理仅20毫秒

快科技7月6日消息，华为CANN（昇腾AI异构计算架构）团队首次公开披露了美团万亿参数大模型LongCat-2.0在昇腾A2芯片上的完整部署方案。 LongCat-2.0，总参数量达1.6万亿，原生支持100万Token超长上下文。该模型是业界首个完全基于国产算力完成训练与推理全流程的万亿参数模型。 此次公开的部署细节显示，LongCat-2.0基于昇腾Atlas A2 192卡集群部署，单机16卡。Prefill阶段采用64张昇腾A2协同调度，Decode阶段采用128卡超大规模专家并行EP部署。 昇腾