标签

AI成本革命:ASIC芯片崭露头角

上次讨论AI成本降低,提到了两个要点。AI自身在变得更加经济,AI正推动全行业成本下降。最后抛出一个观点:涨价只是信号,降本才是最终目标。果然,验证来得比预期更快。OpenAI最近公布了一项数据。o4-mini的推理开支,相较前代直接减少了10倍。10倍意味着什么?以往你执行一次推理花费10元,现在只需1元。以往运行100万次花100万,如今仅需10万。这不是微调级别的改进。而是彻底改变了竞争规则。你自然会问:如何实现的?两条路径。一条路径是软件。多Token预测加上底层深度优化,服务器效率被推至极限。好

2026-07-05 02:30:57  |  15 阅读

AI亲手打造算力基石:Jalapeño芯片背后的范式转变

AI 曾主要用于辅助写代码、生成内容与处理任务。如今,OpenAI 与 Broadcom 联合推出的 Jalapeño 芯片,标志着这一进程迈出了关键一步:AI 开始直接参与设计自身运行所需的硬件。本文从 Jalapeño 仅用 9 个月完成 tape-out 的突破说起,揭示“AI 设计 AI 芯片”并非空谈,而是 AI 竞争从模型与产品,深入至芯片、推理成本与数据中心的明确信号。过去几年,人们常问:AI 会重塑软件开发吗?如今答案已清晰可见。写代码、修复 Bug、自动化测试、生成文档,AI 已深度融入

2026-06-28 21:04:31  |  16 阅读

AI 能力加速向本地设备迁移

AI 能力正在加速向本地设备迁移。Redis 创始人 Antirez 正式开源了 ds4.c,这是一款专为 DeepSeek V4 Flash 与 Apple Silicon 优化的本地推理引擎。该项目并未追求通用框架的设计思路,而是另辟蹊径,通过非对称 2-bit 量化、KV Cache 写入 SSD 以及 Metal 原生优化等技术创新,成功将 100 万 token 上下文窗口和 Coding Agent 功能塞入仅 128GB 内存的 MacBook 设备。真正值得深思的是,AI 正在从集中式的云

2026-05-10 17:59:40  |  9 阅读