AI推理爆发:PCDN边缘计算的新机遇与合规挑战
近两年,AI领域的焦点始终集中在“训练”环节——科技巨头们大量囤积GPU,构建超大规模数据中心。据行业研究机构Canalys最新数据,2025年全球AI基础设施支出已超3000亿美元,其中训练算力占据主导地位。然而,2026年的发展轨迹正悄然转变。随着大模型从“可用”迈向“好用”,推理场景逐渐超越训练场景。Token日均调用量从2024年初的1000亿激增至如今的140万亿,两年内增长逾千倍。更为关键的是,推理算力占比已超70%,单次推理请求的算力消耗是训练的5至10倍——这意味着,当模型真正落地应用时,
人工智能推理效能评估解析
AI推理评估旨在检验模型与硬件间的协同效率,直接关系到智能终端的工作表现。其运作机制为载入模型后,借助GPU、NPU执行张量运算和特征抽取,最终呈现结果。评估需兼顾运算能力、响应延迟、处理吞吐和精确度。TOPS作为推理算力的专属度量,1 TOPS意味着每秒可执行一万亿次计算,常用于衡量INT8精度下边缘芯片的运算实力。测试一般遵循MLPerf行业规范,设定好精度与数据批量,运行基准模型,计算出实际算力、算力利用率、推理延迟以及每秒产出token的速率。芯片宣称的峰值TOPS数值高并非代表真实表现优异,若硬
AI芯片研发与平台升级同步推进:行业最新动态汇总
6. 国际媒体披露:DeepSeek正研发专用推理处理器,市场反应明显据海外媒体7月8日报道,DeepSeek正在打造自主AI推理芯片,旨在减少对英伟达和华为产品的依赖。这款芯片聚焦推理运算,不涵盖模型训练环节,项目仍处于初期开发阶段。DeepSeek正与多家芯片设计公司、代工企业及存储供应商接洽,同时大力招募芯片工程人才。此前,DeepSeek利用H800成功训练出R1模型,在美国出口限制导致供应链中断后转向华为昇腾平台,已推出适配昇腾的V4版本。此番自主研发芯片的策略与OpenAI的Jalapeno、
AI观察 | 本土算力业绩爆发:从昇腾集群到云服务转折
📅 2026年7月9日 · 星期四浪潮信息中期净利润预增226%-288%,深信服20CM涨停,国资云板块领涨——本土算力产业链正从"概念炒作"迈向"业绩兑现"的关键转折点。在全球科技股同步承压、韩股步入熊市的背景下,A股本土算力板块逆势崛起。7月8日,云计算概念大爆发,深信服、网宿科技等20CM涨停,浪潮信息一字涨停,封单超70万手。消息面上,2026世界人工智能大会(WAIC)即将于7月17日在上海举行,昇腾旗下Atlas 950 SuperPoD超节点将重磅首展。市场对本土算力的关注从"有没有"迅速
2026年AI算力新周期:Token工厂模式与基础设施变革
△ 点击上方关注,加星标置顶本号即时掌握锦麟资本最新动态进入2026年,全球人工智能产业全面迈入以“具身智能”和“群智智能体”为核心的应用爆发期,AI算力需求结构发生根本性逆转——大模型大规模训练的算力红利逐步向长尾、高并发的推理算力池转移。在传统的算力租赁模式下,数据中心运营商扮演的是类似“数据地产商”的角色。通过大量采购英伟达、AMD或大厂自主研发的专用芯片,以固定时租(如单卡小时数)将硬件资源整块打包给大模型厂商。传统模式的弊端:基础设施厂商不承担模型研发风险,但也彻底绝缘了下游应用爆发带来的溢价红
英伟达与d-Matrix达成合作:融合架构赋能AI推理性能跃升
【科技媒体7月8日报道】据海外媒体The Information于7日披露,全球领先的GPU芯片厂商NVIDIA正与定制芯片新锐d-Matrix展开深度合作,共同构建融合型算力平台,旨在高效支撑AI模型的部署与运行。 据悉,d-Matrix在当日发布的官方声明中透露,云服务提供商Parasail通过整合NVIDIA Hopper/Blackwell系列GPU与d-Matrix自研的Corsair ASIC芯片,成功实现了令牌产出效率的十倍增长。 这款Corsair芯片基于数字存内计算架构打造,采用台积电先
DeepSeek布局自研AI推理芯片
据路透社援引知情人士透露,DeepSeek正着手研发自有AI推理芯片,旨在减少对英伟达芯片的依赖。该芯片专为推理场景设计,即模型训练完成后生成响应的计算过程,而非用于训练新模型。若项目顺利推进,DeepSeek将正式进入半导体设计领域。三位知情人士称,该项目尚处初期,公司已开始接触外部合作伙伴,并与芯片设计、晶圆代工及存储厂商进行初步沟通。其中一人表示,相关工作约一年前启动。另有两人指出,近几个月DeepSeek显著增加了芯片设计工程师的招聘,但招聘采取隐蔽方式进行,未在公开平台发布。自研AI芯片难度巨大
HBM之父金正浩:AI核心在内存,存储重塑算力格局
在人工智能迅猛发展的浪潮中,行业长期以来将GPU奉为算力的绝对核心。然而,随着AI技术从训练阶段跨越至推理及智能体(Agentic AI)时代,一场关于计算架构的深刻变革正在悄然上演。7月6日传来消息,被尊称为“HBM之父”的韩国科学技术院(KAIST)电气系教授金正浩在近期受访时强调,AI的核心竞争力正由GPU向内存转移。他断言,AI的本质在于内存,在当下的AI推理环节,GPU真正用于计算的时间仅占10%到30%。这一观点不仅揭示了当前AI硬件的底层瓶颈,更预示着未来存储芯片在AI应用领域将掀起颠覆性的
智能建筑新突破:PKPM实现户型图自动识别与结构设计
智能建筑新突破:PKPM实现户型图自动识别与结构设计不久前我向 PKPM 上传了一张户型图,它直接生成了一套完整的梁柱配筋图纸。我停顿了好几秒。不是因为出现差错,而是结果过于精准。以往需要三人团队忙碌两周的任务,如今一杯咖啡的功夫就完成了。我核查了几个关键节点的配筋情况,与手工计算的偏差在 3% 以内。我果断又验证了一次。这次特意选择了异形柱、转角窗、飘窗上翻梁——这些都是资深工程师认为“AI 无法应对”的难题。它不仅全部识别,还把连梁的刚度折减、边缘构件的箍筋加密区都配置妥当。我深感震惊。这已超越辅助工
AI推理赛道杀出黑马,挑战英伟达霸主地位
就在刚刚,又一家AI芯片企业正式“出山”。“我们即将走出隐身状态。”美西时间6月30日,AI芯片新秀 Etched 在X平台宣布,公司已完成首颗A0流片,并建成了首批整机机柜(Frontier Inference Clusters)。不仅如此,产品已累计签订超过10亿美元客户合同,融资总额达到8亿美元,首批产品将于今年夏季交付。Etched还透露,早期客户测试表明,其系统在推理任务上的吞吐量、延迟和能效已处于行业领先水平。AI芯片行业几乎每天都有新公司诞生,Etched之所以引发关注,是因为它选择了一条与
Etched斩获8亿美金投资,AI推理芯片竞争加剧
人工智能芯片初创企业Etched于本周二宣告脱离隐匿状态,公布已筹措总额达8亿美元的资金,同时斩获逾10亿美元的客户订单。该企业预计在今年夏天向客户交付其机架级别的推理系统。 在上述融资中,最近一轮发生于去年12月的5亿美元募资,使其投后估值攀升至50亿美元。此轮融资由Stripes领投,彼得·蒂尔、Positive Sum及Ribbit Capital等机构与个人跟投。此外,量化交易巨头Jane Street主导了一轮先前未曾披露的融资,对Etched的累计注资额已突破1亿美元大关。 Etched由哈佛
AI推理遇微秒瓶颈?Alice&Bob首创“解耦AI”架构破局
量子计算的强项在于攻克传统计算设备无能为力的难题。然而,量子态极易受干扰,会在瞬息之间发生退相干现象。业界普遍认为,容错量子计算是释放量子潜力的最佳途径,但代价极其高昂。往往需要上千个物理量子比特,才能构筑出一个逻辑量子比特。相比之下,经典计算的纠错冗余度仅需12.5%。Alice&Bob研发的猫量子比特借助玻色编码,从硬件层面遏制了比特翻转失误,从而将纠错开销呈指数级削减。与其他技术路线相比,其物理量子比特的需求量骤降了200倍之多。然而,节约物理比特的代价,是让控制回路承受了巨大压力。猫量子比
前Databricks AI掌门人计划将AI推理电费削减千倍
原作者: Russell Brandom导读Russell Brandom 这篇 TechCrunch 报道表面上写的是 Unconventional AI 想用全新的 oscillator-based computing 架构,把 AI inference 的功耗降到传统方案的千分之一。对 Lets TrAI 读者更重要的是,这家公司押注的不是“再做一颗更快的芯片”,而是从计算架构层重写 AI 推理的能耗约束。如果这条路成立,未来 AI 基础设施的竞争焦点就不只是模型能力和 GPU 供给,而是谁能把每一
AI为何陷入逻辑循环?它的自我救赎之路
不知道你有没有注意过一个有些搞笑的细节:当那些最顶级的AI(比如最近大火的O1、Claude思考模型)在面对一个复杂的逻辑难题或数学题时,屏幕上总会跳出一个叫“思考链(Thoughts)”的长条,里面密密麻麻地写着它一行又一行的“心里话”——“首先我应该怎么怎么下,如果对方怎么走,我就得怎么堵,慢着,这里好像不对,我得重新算……”很多人会觉得:作为人类已知最庞大的数字大脑,你既然在后台拥有几百亿个参数、每秒能跑几万亿次矩阵乘法,你直接在“脑子里”把答案算好了,然后一秒钟把最终答案吐给我就行了。为什么一定要
推理时代下的产业链变革与投资机遇
过去三年,AI行业的核心叙事是"训练更大的模型"。从GPT-3到GPT-4,从Llama到Gemini,行业竞争围绕着参数规模、训练数据和GPU集群展开。Scaling Law(规模定律)是所有讨论的起点和终点。但2025年下半年开始,一个微妙而深刻的变化正在发生:行业关注的焦点,正从"训练"转向"推理"。这不仅仅是一个技术路线的调整,而是整个AI产业链的价值重构。Agent(智能体)的出现,成为这一转变的核心驱动力——它让AI从"回答问题"