标签

DeepSeek与北大联合发布DSpark:推理效率飙升六成

【TechWeb】6月27日,DeepSeek团队携手北京大学共同推出名为《DSpark》的学术论文(基于speculative decoding技术路径),展示了一种提升大模型运算效率的创新方案。

2026-06-29 01:41:55  |  14 阅读
梁文锋力作DSpark:掌握这十大核心即可通关

梁文锋力作DSpark:掌握这十大核心即可通关

出处:量子位 梁文锋挂名的DeepSeek最新论文DSpark或许你已看过—— 单用户速率拔高85%、高并发环境下有效吞吐暴增4倍。 然而你确实领悟了吗? 莫慌,已有行家帮你剖析完毕。 Fireworks AI的联合创始人兼CTO、PyTorch核心开发者Dmytro Dzhulgakov把全篇论文归纳成10大要点,从最底层的GPU显存访问特征聊到最顶层的在线自适应调度。 他指出: DeepSeek此番架构的真正核心在于系统工程与模型协同设计。 相关基础理念前人虽已提出,难能可贵的是其将多种技术整合为一套

2026-06-28 20:50:31  |  20 阅读

AI领域核心术语解读 | 从处理速率到自主智能

1. tokens/second (tps)发音:/ˈtɒkənz pə ˈsekənd/定义:每秒令牌数,评估AI模型运算效率的核心参数示例:小米在万亿参数模型上实现了每秒1000+令牌的处理速度。2. decode speed发音:/dɪˈkəʊd spiːd/定义:解码速率,AI输出文本时的响应效率示例:这一突破源于FP4量化与推测解码的协同应用。3. MoE (Mixture of Experts)发音:/ˈmɪkstʃər əv ˈekspɜːts/定义:专家混合架构,一种高效率的神经网络设计方

2026-06-15 11:01:21  |  15 阅读

arXiv 人工智能前沿论文精选 2026年5月下旬

1. 精简草稿强化检索:推测解码的混合树构造策略 原文标题: Draft Less, Retrieve More: Hybrid Tree Construction for Speculative Decoding 发布时间: 2026-05-19 论文链接:http://arxiv.org/abs/2605.20104v1 推测解码(SD)采用先预测后校验的模式来加速大语言模型推理过程。当前方法通过构建大型草稿树来追求更高的接受率,但这会导致显存带宽与计算资源的严重瓶颈。动态深度剪枝虽能通过移除边缘分支

2026-05-21 07:20:59  |  30 阅读