AI独角兽Fireworks融资估值达1000亿
AI推理平台Fireworks AI正在进行新一轮融资谈判，公司估值已攀升至150亿美元（约合1000亿人民币）。这意味着又一家千亿元级别的独角兽企业诞生。这个成就仅用了四年时间——2022年，Fireworks AI正式成立，专注于为企业提供开源AI模型运行服务，并采用Token计费模式。目前该平台日均处理Token量已达30万亿，通过Token销售实现快速发展。背后的领导者令人印象深刻——Lin Qiao（乔琳），本硕均毕业于复旦大学，正是在这里开启了她的AI职业生涯。借助AI行业的发展机遇，她带领团
AI推理新纪元：芯片逻辑重塑
从英伟达的巨额投资，到初创企业密集推出产品，再到资本市场对这些企业展开估值，可以清晰看出，在AI推理阶段，行业竞争焦点已从“更大模型”逐步转向“更高效模型”。AI芯片产业的核心逻辑，正从训练算力向推理效率转变。在2022年生成式AI爆发初期，行业竞争的核心集中在模型训练上。谁能训练出最强模型，谁就占据竞争优势。因此，大量资本涌入参数规模和芯片资源堆叠，以追求模型能力与规模的飞跃。但随着AI服务进入常态化部署阶段，成本结构已发生改变。训练属于高资本投入、低频次的研发行为，而推理则是高频、长期的持续性成本，并
Mistral AI计划自研AI芯片 加速欧洲算力布局
法国AI新锐Mistral AI掌门人阿瑟·门施透露，企业正积极探索自主研发芯片的可能性，相关产品有望在未来面世。 这是门施首次就半导体领域的战略规划公开发声。此举反映出，在与OpenAI、Anthropic等美国巨头竞争的过程中，Mistral AI致力于强化对核心基础设施的把控。 谈及自研芯片的愿景，门施坦言：“这个方向很有潜力，公司并未关闭这扇门。” 他指出，定制化芯片能显著压缩AI token的使用成本，而token正是AI模型处理信息的核心单元。 “自研芯片大概率会成为我们的选项，但目前我们依然
墨芯完成C轮融资，下一代稀疏芯片SparsePrime年内面世
知名企业墨芯人工智能近日宣布完成C轮融资，金额高达十亿元人民币。此次融资吸引了深创投、岩山科技、大湾区共同家园、力鼎资本、蕴盛资本等产业巨头及市场机构，凯旋创投、创享投资、盛景嘉成等多家老股东跟投。这种“产业巨头+国资背书+财务资本”的多元股东结构，不仅保障了技术协同的深度，也为墨芯在全国算力网络布局中提供了坚实的资源保障与产业支撑，标志着稀疏计算正从技术验证阶段加速迈向规模化产业爆发的新时期。就在融资宣布之时，公司核心新品——全新一代计算卡SparsePrime®（以下简称“SparsePrime®”）
墨芯人工智能完成近十亿元C轮融资，推进AI推理芯片商业化
近日，墨芯人工智能正式完成C轮融资，金额近十亿元人民币。据悉，融资资金将重点投向全新一代计算卡SparsePrime的量产与商业化，以及全国算力网络版图的进一步扩张。2021年，真格基金参与其Pre-A轮融资，一路陪伴至今。融资宣布之际，公司核心产品全新一代计算卡SparsePrime将于今年内正式推出。SparsePrime计算卡是一款面向智算中心和数据中心的高性能AI通用推理计算卡，基于自研的Antoum2.0芯片架构，专为大模型与复杂推理场景优化设计。该产品采用自顶向下的整体设计理念，广泛适用主流T
大模型推理进入规模化落地期，KV Cache性能瓶颈如何突破
在多模态、私有化AI、实时推理和工业智能部署全面推广的背景下，AI行业已从模型训练阶段迈向推理规模化落地的新时期。高并发、超长上下文和低时延的服务需求，使得KV Cache从单纯的推理加速工具转变为大规模推理的核心性能瓶颈，主要表现为显存占用高、多节点缓存孤岛、小粒度IO压力大以及冗余计算多等问题，最终导致吞吐下降、算力浪费和硬件成本攀升。针对上述行业痛点，百代存储基于自研OptiFS高性能并行文件存储，推出AI推理专属KV Cache全链路优化方案，弥补存算协同短板。方案核心优势如下：1. 分层存储架构
AI推理爆发：CPU与GPU双核驱动，存储设备板块共振
科技圈震动！🔥AI推理时代强势开启，CPU与GPU双强争霸！各位，AI领域的赛道已经发生了根本性的切换！随着AI应用重心从模型训练转向实际推理，产业正迈入“CPU+GPU”协同发展的新纪元，不再局限于GPU的垄断，CPU的战略价值正经历剧烈重塑！英特尔CEO陈立武指出，AI推理普及后，CPU与GPU的配置比例有望达到4:1；AMD掌门人苏姿丰亦表示，推理及智能体AI的发展为CPU赋予了全新的角色定位。值得注意的是，传统数据中心中CPU与GPU的比例仅为1:4，预计到2026年将逼近1:1。一旦实际配比突破
AI推理重塑存储产业格局!长协定价颠覆传统周期,四大投资主线深度解析
后台有朋友留言问："存储芯片从去年涨到现在，还能持续多久？国产链条到底怎么选？"这个问题恰好切中了当下A股半导体最核心的主线。AI推理需求正在引爆存储芯片有史以来最长的结构性景气周期。供需缺口预计延续至2027年，长协锁单机制使存储从传统周期品蜕变为高盈利能见度资产。国内"两存"IPO开启千亿级资本开支大幕，设备、零部件、材料环节迎来量价齐升的黄金窗口。重点关注存储涨价受益链（兆易创新、澜起科技）、设备扩产链（北方华创、中微公司、拓荆科技、微导纳米）、零部件材料链（富创精密
海康机器人发布AI一体化终端与服务器
AI推理终端VAC3000&VAC5000系列面向工业环境边缘部署优化强大AI计算能力支撑AI加速卡性能表现优异可高速执行深度神经网络模型推演工作符合高准确率、高效率标准多任务同步运行VAC5000系列配置双AI加速卡轻松处理多AI组件并行运算满足高清晰度和更高性能要求深度整合VM系统预装VM全功能算法系统包含经典算法、深度学习及边缘计算算法全面支持定位、测量、识别、瑕疵检测等应用多样接口整合整合多种视觉系统数据传输与控制接口支持多种工业协议与外设接入基于X86开放式架构可灵活适配各类视觉检测与自
大模型推理的法律边界探索
人工智能能否胜任法律推理工作？其推理过程的可靠性如何保障？大规模语言模型的推理机制究竟遵循何种原理？就我观察而言，当前人工智能的推理能力仍停留在归纳与演绎阶段，尚未触及辩证推理的深层境界。不过，仅仅是归纳和演绎推理，就已经足以支撑大语言模型处理绝大多数语言相关任务，而且其精确度还在持续优化中。在我看来——法官这一职业是否会被替代，关键在于大模型能否真正实现"自主"的辩证推理，而非如今这种流于表面的"表演式"辩证推理。除此之外，现有的证据推理框架、评判准则与执行流程相当繁复，但归根结底，人工智能的推理手段依
AI推理提速：算力突围战开启，技术变革惠及民生
深夜的机房里，服务器风扇的轰鸣声中，工程师注视着屏幕上迟缓移动的进度条。一段代码，一个模型，一次推理，等待的时间从秒级拉长到分钟级。这并非科幻场景，而是每一位AI开发者都曾体会的焦虑时刻。算力瓶颈宛如一道无形的屏障。屏障这边，是日新月异的模型架构与算法革新；屏障那边，则是现实应用对即时响应的强烈渴求。当大模型参数突破千亿，当多模态任务成为常态，推理效率便成了决定AI能否真正落地的核心要素。推理优化的本质，实则是一场与时间、与资源的较量。早期的推理优化宛如一场蛮力角逐。通过堆叠更多GPU、增加内存带宽，试图
AI推理成本断崖式下跌：企业应用迎来免费时代
开篇：一场正在进行的颠覆2024年，企业使用AI推理处理每1000个token需支付12美元。 2025年，这一费用降至1.2美元。 2026年中旬，Anthropic CEO达里奥·阿姆斯特萨做出预测："2027年，AI推理费用将趋近于零。"这并非空想主义者的幻想。这正是当下正在发生的现实。本文将深入探讨三个核心问题：AI推理费用为何急剧下滑？哪些力量在主导这场"拼多多"式的降价风暴？推理免费时代降临后，世界格局将如何重塑？你或许熟悉智能手机的价格演变：2007年，初代i
英国AI推理芯片开发商Fractile获2.2亿美元融资，聚焦专用芯片研发
总部位于英国的AI推理芯片开发商Fractile成功获得2.2亿美元B轮融资，由Factorial Funds、Accel以及Founders Fund联合注资。 该公司由牛津大学背景的工程师Walter Goodwin于2022年创办，专注于人工智能推理专用芯片的研制。推理是AI模型处理用户查询请求时的核心计算环节。
AMD发布vLLM-ATOM插件提升AI推理效率
IT之家 5 月 12 日消息，科技媒体 Wccftech 昨日（5 月 11 日）发布博文，报道称 AMD 推出 vLLM-ATOM 插件，在不改动现有 vLLM 命令、API 和工作流的前提下，提升 DeepSeek-R1、Kimi-K2 和 gpt-oss-120B 等大语言模型推理性能。 IT之家注：vLLM 是面向大语言模型部署的开源推理框架，重点优化高并发服务场景下的吞吐和显存利用率。与一般“单次调用”推理工具不同，它更强调请求调度、KV 缓存和连续批处理，适合企业把模型做成长期在线服务。 A
GF预测：AMD、英特尔、高通将迎服务器CPU增长红利
芯片制造企业GlobalFoundries近期指出，由于AI推理及智能体应用需求激增，服务器CPU市场正步入结构性增长的“超级周期”，AMD(464.57, 9.38, 2.06%)、英特尔(127.0999, 2.18, 1.75%)和高通(235.56, 16.47, 7.52%)将成为主要受益方。 以往以GPU为核心的AI训练阶段，GPU与CPU使用比例约为8:1。但随着AI应用向推理和智能体方向发展，该比例已从8:1下降至4:1，未来可能接近1:1。CPU在数据调度、内存管理及系统协同中的作用显著