人工智能发展仍处初期阶段
人工智能目前还处于相当笨拙的早期发展时期
诸多关键难题如注意力机制、幻觉现象、推理效率等,均未得到有效解决。
相较于纯文本模型,多模态系统进步更快,例如文本生成图像,但在严格应用场景下频繁出错,且极难纠正。
AI的日常演进模式并非突然爆发,而是逐步渗透。
不少人宣称通用人工智能可能在未来三年甚至更短时间内实现,若沿用现有训练架构,我认为真正的AGI十年内都难以到来,底层数学概率问题是其根本障碍。当然,各方对AGI的定义常引发激烈争论,这另当别论,我是从用户角度出发:要求什么就能给出什么,且结果正确。
不会爆发的另一推论是,真正像编程那样完全数字化、逻辑清晰、对错分明的场景难以大量复制,技术与场景的契合需要漫长过程。
按岗位设计的智能体仅为过渡方案,未来应围绕目标进行组织。
人类分工多源于技能局限和深度积累需求,而智能体无此限制,理论上单个智能体可掌握所有知识。
真正的智能体应聚焦于一个目标,而非一个角色。
代币消耗量与正确率并无关联。
人类无法想明白的事,AI更不可能理清。
AI会放大个体的愚笨,却无法缩小人与人之间的智慧差距。
AI可能带来负向效率。
在处理确定性任务时,AI输出结果的速度或许是人力的百倍,但最终交付给用户的效果可能仅为两倍,甚至为负。
AI输出比人工校验更快,但验证成本更高,叠加幻觉等问题,使排查难度极大,例如在某些情境下,你不断指出错误,它最终会假装正确,实则依然错误。
高价值场景或将被优先攻克。
从事AI原生项目的人必定清楚,代币成本极为昂贵,若解决的问题不够重大、不够值钱,必然亏损,这会反过来推动创业者和企业家寻找高价值场景来突破。
互联网时代积少成多的模式,大概率不符合优先突破的选择,因为还需克服大量用户使用障碍和营销阻力等。
端侧编排能力决定模型上限,而非模型本身。
如前所述,模型本身的提升对应用端效果影响并不如预期显著。
无论是两年前发布的manus还是Claude code等,让AI工作流显得更智能的方式,目前主要依赖工程编排,而非基础模型本身,只是Claude同时拥有模型和端,将端侧部分优化融入模型侧,使协同更佳,若有人直接使用Claude API,完全无法达到Claude code的水准。
当前AI应用创造价值仅有两个方向:削减成本、降低门槛。
AI目前主要改变供给侧成本结构,而非创造需求。
最后两句写完又删了,解释起来较复杂,算了,有兴趣可线下交流。