Khosla风投押注轻量化，iPhone本地运行最大AI模型

苹果公司（股价316.22美元，涨幅0.90%）正加速推进大模型小型化，以在iPhone上实现高效能AI的本地运算。这样做不仅能减少云计算成本，还能加强用户隐私保护。一家今年刚结束隐身阶段的初创企业宣布，其已在iPhone上成功部署了参数量超越以往所有手机端模型的大型AI系统。

这家名为PrismML的初创公司透露，已将中国电商巨头阿里巴巴（股价111.14美元，涨幅1.98%）开源的大型语言模型“通义千问3.6”（Qwen 3.6）成功压缩并适配，可在iPhone 17 Pro上完整本地运行。该模型参数量达270亿——参数好比人脑突触，影响了模型处理信息的复杂度。相比之下，目前市面上多数手机本地模型每次只能激活数十亿个参数。

参数达万亿的超大规模模型，目前仍无法在移动端跑通。然而PrismML宣称，已落地iPhone的270亿稠密模型足以应对复杂对话、深层逻辑推理、全自动智能代理和编程开发等高级任务。该开源模型将于下周二起供公众下载。

这一尚未公开的技术突破，折射出行业大趋势：将AI计算从昂贵的数据中心服务器转向终端设备本地完成。微软（384.36，涨0.27%）、亚马逊（247.04，涨1.40%）和Meta等科技巨头已投入数千亿美元建设算力中心，以迎接预计爆发的AI需求。

但苹果并不跟随大量投资建设算力集群的风潮，而是公开倡导将iPhone的多数AI功能剥离云端、在设备端执行。苹果认为，端侧AI能更好地履行其保护用户隐私和安全的承诺。

PrismML首席执行官巴巴克·哈西比在采访中预测，未来绝大多数AI运算都将在终端设备本地执行。

“设想一下三年后的景象：95%的智能运算可以在手机、笔记本和智能家居设备上本地搞定，只有5%的超高算力任务需要借助云端。整个行业都看好这条路。”哈西比表示。

哈西比补充说，模型的轻量化本地部署“从根本上改变了AI产业的成本结构”。

多家顶级AI投资机构对这家初创企业的技术路线持乐观态度。OpenAI首轮投资方Khosla风投（Khosla Ventures）今年初参与了PrismML 1625万美元的种子轮融资。该机构创始人维诺德·Khosla在采访中称，PrismML的技术是“根本性突破”，这是他决定投资的原因。

“2018年我们投了OpenAI，重金押注Transformer架构；如今行业需要全新的AI构建思路，我们的团队一直在寻找这类创新方案。”Khosla表示。

PrismML依靠一套独创的数学算法，将通义千问3.6压缩到了原体积的一小部分。常规压缩技术通常会带来性能下降，但该公司宣称其自研的轻量化方案不会损害模型表现。他们已经将大约54GB的通义千问3.6压缩到4GB以内。

PrismML脱胎于加州理工学院，CEO哈西比是该校电子工程教授，他和联合创始人在校内完成了这套核心数学算法的开发。加州理工学院拥有该技术的全部专利，并独家授权给PrismML商业化。

哈西比透露，PrismML计划继续压缩更大规模的模型，目标覆盖万亿参数级别，对标OpenAI的GPT、Anthropic的Claude等顶尖旗舰模型。

PrismML的技术方案对苹果有着极强的吸引力。苹果在6月的全球开发者大会上公布，改版后的Siri依赖谷歌Gemini模型（谷歌股价356.24美元，跌0.69%）；由于原模型体积过大，Siri的高阶功能仍需调用谷歌云上的英伟达芯片算力。

苹果同时宣布，为iPhone带来一些全新的本地运行AI功能。苹果自研的200亿参数量端侧模型采用稀疏架构，每次只激活10亿至40亿个参数；而PrismML的本地模型可以同时完整调用全部270亿参数。

《The Information》此前曾报道，苹果在自研端侧模型轻量化过程中曾遇到瓶颈：将自身的大模型压缩后用于iPhone，性能明显下降。

另据消息称，苹果正在物色能强化端侧AI能力的企业，并已与PrismML展开技术合作洽谈。

业内还存在其他端侧AI技术路线。比如初创公司Argmax，主打在本地完成语音、图像预处理，再将处理后的数据上传至云端进行复杂推理。

这种端云混合方案流行的原因之一，是云端大模型迭代速度极快，几乎每周都在更新。支持混合架构的人士认为，完全在本地运行的模型无法同步获得云端最新迭代的顶级模型能力。

编辑：郭明煜