标签
OpenAI揭秘降本秘籍,推理成本减半

OpenAI揭秘降本秘籍,推理成本减半

据知情人士透露,本月早些时候OpenAI工程师向部分内部员工披露,通过一系列新技术的优化,他们找到了一种能让模型推理运行成本降低一半以上的方案。 工程师将这套新技术用于未注册免费/付费账号的访客访问ChatGPT场景后,峰值时段所需的英伟达显卡算力规模一度仅需几百块,这一数字低得超乎预期。(当然,OpenAI针对这类匿名访客设置了调用频次限制,该群体的ChatGPT整体使用量并不算高。) 目前OpenAI并未公开本次效率提升的具体技术细节,业内推测常用优化手段包含:模型量化、键值缓存(让模型记忆过往计算信

2026-07-01 02:00:07  |  28 阅读

华存案例 | 智谷方案破解AI大模型存储瓶颈,释放千卡集群算力

面对千亿参数大模型的训练挑战,存储系统需具备何种速度方能匹配GPU算力?某人工智能研究院在集群规模不断扩大的过程中,遭遇传统存储受限于以太网带宽、网络丢包及冷热数据统一存储成本高昂等难题,极易引发GPU算力闲置及训练任务中断。华存智谷助力该研究院成功落地训推大模型存储实践,采用高效分层数据存储方案。该方案基于TGStor 9800高性能并行文件系统与RoCE无损RDMA网络构建存算分离底座,利用HSM分层技术连通高性能存储与大容量对象存储,全面支撑大模型预训练、数据集处理及推理业务。目前,该方案已完成全流

2026-06-30 15:19:24  |  18 阅读

AI海报让产品瞬间被看见

01.提出问题在信息过载的时代,好产品层出不穷,但获得关注的机会却日益稀缺。许多企业面临共同困境:👉产品优质👉定价合理👉却无人知晓问题真出在产品上吗?其实不然。真正落后的是:你的“表达形式”。02.传统海报的局限传统宣传海报常存在以下短板:设计周期长 成本高昂 内容单一 难以迭代 缺乏传播力最终结果往往是:👉做了一张图 👉发了一次朋友圈 👉从此沉寂但如今,局面正在转变。03.AI海报正在重塑营销我们正借助AI,为客户重构传播方式:不止于“做一张图”,而是:👉让产品融入“内容传播系统”AI可快速生成:产品海

2026-06-30 08:21:58  |  14 阅读

AI应用洞察|众人皆用AI,但鲜有人用得恰当

德银今年6月发布了一份报告,数据令人震惊。他们做了一番计算:同样完成一项日常写作任务,采用Claude Fable 5需花费3.25美元,而用DeepSeek V4-Pro仅需5美分。65倍的成本差距,但任务效果却不相上下。这还不算最夸张的。据公开信息,优步(Uber)今年全面推行AI工具后,短短4个月就将全年AI预算耗尽。并非员工懈怠,恰恰相反——大家使用过于踊跃,踊跃到公司财务难以承受。于是核心问题浮现:人人高呼“AI赋能”“AI增效”,但真正花时间思考“该选用哪款模型”的人,究竟有多少?不是不懂运用

2026-06-27 06:46:09  |  18 阅读

OpenAI携手博通推出定制AI芯片Jalapeño

当地时间6月24日,OpenAI联合博通正式推出首款定制芯片Jalapeño,这标志着OpenAI正式踏入人工智能芯片领域。首批工程样片已交付并完成全面实验室测试,预计2026年底前实现首批部署。在发布仪式上,博通CEO Hock Tan与总裁Charlie Kawwas将首批工程样片移交至OpenAI CEO Sam Altman及总裁Greg Brockman手中。OpenAI硬件负责人Richard Ho指出:“Jalapeño专为大语言模型推理从零设计,融合了与OpenAI研究团队紧密协作的深入洞

2026-06-25 16:45:17  |  20 阅读
开源AI浪潮兴起,驱动Together AI与Hugging Face迅猛扩张

开源AI浪潮兴起,驱动Together AI与Hugging Face迅猛扩张

作者:朱莉娅・霍恩斯坦、劳拉・布拉顿、凯文・麦克劳克林 我们今早曾深度报道:尽管 Anthropic 与 OpenAI 发展势头迅猛,但各类开源人工智能模型以及其他高性价比替代方案服务商同样迎来爆发式增长,大量企业选择采用开源技术来控制自身算力与研发成本。而行业的发展远不止于此。 Together AI 是一家新型云服务商,主营英伟达云服务器租赁以及开源模型调用权限业务。公司首席执行官维普尔・韦德・普拉卡什透露,受开源模型使用量暴涨带动,过去几个月里公司至少三次上调全年营收预期。截至今年 3 月,Toge

2026-06-24 22:07:54  |  7 阅读

中小企业如何科学评估AI获客效果?投入产出比计算方法详解

AI获客的投入产出比该怎么计算?别用"花了多少赚了多少钱"这种方式,要看"AI替代了多少人力成本+带来了多少效率提升"1. 什么是AI获客的ROI先讲一个真实的失败案例。去年有个做企业服务的老板找我咨询,他投入了5万块做AI获客——采购了2款AI工具,聘请了1名AI运营。干了3个月,收获31个潜在客户,成交3单,客单价1.2万,总回款3.6万。然后他说:"亏大了,AI获客就是智商税。"我问他:"这3个月,你没用AI之前,能获得几个客户?"他回

2026-06-23 16:07:36  |  17 阅读

AI重塑工程造价:人机协同成新标准

AI不会取代造价行业,但将推动从业者分层:仅会机械算量的人员将被逐步淘汰,而精通专业、数字化与商务管控的人才薪资持续攀升。80%的时间耗费在识图、手工算量、Excel汇总与简单套价;仅20%用于成本分析、甲方沟通与变更处理,大量精力浪费于低技术重复劳动。仅20%的工作时间用于复核AI结果、修正模型偏差、核对图纸数据;其余80%精力聚焦高价值任务:设计成本优化、投资风险预判、商务谈判、变更索赔取证、全周期成本策划与项目价值评估。AI赋能潜力巨大,但当前建筑造价领域的AI工具仍存在四大实操短板,现阶段无法独立

2026-06-23 15:00:02  |  21 阅读

智能体协同教学实践 | 效率提升与成本优化:低成本AI教学应用探索

汕头大学商学院AI赋能教育教学示范案例一、AI辅助教学的现实需求借助人工智能技术提高教学效率,已成为高等教育改革的关键路径。然而,对于一线教师来说,课件开发费时费力、习题编写重复性高、教学系统操作复杂等问题长期困扰着教学实践。虽然商业化AI教学平台能够提供标准化功能,但在课程适配性、数据安全以及成本管控方面往往难以满足个性化需求。在资源受限的情况下,如何探索一条切实可行的AI辅助教学方案,是每位教师面临的现实挑战。二、核心思路——通用智能体与现有教学平台的协同本案例以财务报表分析、财务管理、智能会计和RP

2026-06-18 11:52:24  |  10 阅读

大模型价格战持续升温 国产AI迎降价潮

本报记者 袁传玺 近期,DeepSeek、小米、腾讯云等主流国产大模型运营主体相继宣布下调API(应用程序编程接口)调用费用,多款主流模型降价幅度突破90%。 有行业分析师对《证券日报》记者表示,大模型API价格的持续下探,本质上是技术红利释放与市场竞争博弈共同作用的结果。一方面,底层模型架构的持续迭代与推理系统效能的深度优化,正推动单位词元(Token)的计算成本实现阶梯式下降,为价格体系的重塑提供了底层支撑;另一方面,激烈的市场竞争进一步加速了这一进程,使得降价成为厂商在激烈角逐中抢占身位的现实选择。

2026-06-16 07:37:48  |  20 阅读

人工智能浪潮下的商业突围之道

第 9668篇深度好文:4943字 | 13 分钟阅读人工智能首先带来的是一场全球性的技术变革。算力的持续突破,算法的不断演进,就像重锤砸入平静水面,激起层层波浪,迅速波及全球商业的每一个领域。紧随技术变革而来的,必然是一场更加深入、更加长远的商业模式变革。当新技术赋予企业"10倍好"的能力时,传统商业规则便开始动摇。既有的价值创造模式、产业链协作方式、利润分配机制、企业赖以生存的盈利方式,都将在AI这股不可阻挡的技术力量面前被拆分、重构、重新诠释。未来五年,将是AI新商业模式集中涌现的关键时期。众多携带

2026-06-13 22:19:13  |  20 阅读
企业AI战略转向ROI,DeepSeek等中国大模型抢占海外市场先机

企业AI战略转向ROI,DeepSeek等中国大模型抢占海外市场先机

霍夫曼指出,当前企业正处于从关注AI采用率向重视AI投资回报率的转型期。 全球范围内,企业在AI领域的投入正变得更加审慎。 美国云端部署平台Vercel近期发布数据,5月份其网关统计显示,全球开发者正采取"多模型"策略:日常任务和编码工作交由开源模型处理,而OpenAI或Anthropic的高成本模型仅用于处理复杂、高风险的工作。报告指出:"各团队虽仍在增加Token预算,但正引入更智能的路由机制,力求让每一美元支出都能产生最大效益。" 城堡证券在10日发布的报告中指出,由独立指数提供商Silicon D

2026-06-12 20:46:23  |  22 阅读

AI网关:成为智能时代“基础设施”的关键枢纽

AI网关(也称AI API中转站、LLM Gateway、智能代理或模型路由平台),是搭建在用户应用与各AI厂商官方API之间的中间服务层级。通俗而言,它如同AI世界的“超级枢纽”或“智能电网”:用户无需逐一对接每一家AI服务商(OpenAI、Anthropic、DeepSeek、通义千问、豆包、Kimi、GLM等),只需将请求发送至网关,由网关负责智能分发、优化处理并回传结果。用户只需对接一个标准化入口(通常兼容OpenAI格式),即可灵活调用多家模型。核心本质:它是一个“一站式API聚合 + 智能调度

2026-06-11 07:00:03  |  29 阅读

Salesforce新一轮裁员开启 AI 时代团队重构

Salesforce(173.73, -1.62, -0.92%) 近期启动了新一轮人员精简行动,波及加利福尼亚州 86 名职员。这已是该企业自去年 9 月以来的第三次裁员,彰显了软件行业领军者在人工智能浪潮中不断调整组织形态、优化成本配置的长期战略。 依据加州工人调整与再培训通知法案的相关文件,本次裁员波及销售、综合管理、技术及产品等多个职能条线。受波及的团队涵盖 Agentforce AI 产品组、MuleSoft IT 集成工具部门以及 Marketing Cloud 软件业务线。但据知情人士透露,

2026-06-10 23:15:02  |  13 阅读

AI不是为了节约成本,而是避免无效支出

近期与几位私域运营的朋友交流时,我注意到了一个非常有趣的变化。大家见面时的寒暄话题不再是“最近生意如何”,而是“你们开始使用AI了吗?”这并不是跟风,而是形势所迫。无论是大健康、医美及轻医美、美妆护肤,还是国学亲子教育领域,虽然行业不同,但面临的挑战却惊人地相似:流量成本不断攀升,客户愈发挑剔,利润空间越来越薄。过去那种靠人海战术和资金堆砌的运营模式,似乎已经成为历史。2025年,中国AI核心产业规模已超过1.2万亿元。这一数字背后是6200多家企业的大量投入。然而,对于大多数中小企业而言,AI依然是“大

2026-06-10 16:05:55  |  22 阅读