AMD发布vLLM-ATOM插件提升AI推理效率
IT之家 5 月 12 日消息,科技媒体 Wccftech 昨日(5 月 11 日)发布博文,报道称 AMD 推出 vLLM-ATOM 插件,在不改动现有 vLLM 命令、API 和工作流的前提下,提升 DeepSeek-R1、Kimi-K2 和 gpt-oss-120B 等大语言模型推理性能。 IT之家注:vLLM 是面向大语言模型部署的开源推理框架,重点优化高并发服务场景下的吞吐和显存利用率。与一般“单次调用”推理工具不同,它更强调请求调度、KV 缓存和连续批处理,适合企业把模型做成长期在线服务。 A
AI Agent项目如何做用户验收?真实项目经验总结
全文约 3600 字,预计阅读 7 分钟。AI Agent的产出是概率性的,传统UAT的"对/错"二元判断失效了。本文分享一个三层评估架构(自动完整性检查 → LLM-as-Judge → 业务抽样验收),以及工程与业务协作的三个认知陷阱。"AI项目还需要做UAT(User Acceptance Testing)吗?"这个问题是在我们的AI Agent系统即将交付业务用户时,工程团队内部提出的。表面上看这是一个简单的流程问题,但深入想下去,你会发现它触及了AI项目与传统软件项目之间的一个差异:传统软件的产
告别人工编写,AI智能体自主进化复杂技能:CoEvoSkills框架详解
如今,LLM智能体虽能轻松调用几个API工具,但在处理那些包含多个步骤、需要调试和验证的开放性专业任务(例如复杂的软件修复、科学数据分析)时,往往会感到力不从心。为了解决这个问题,Anthropic提出了“技能(Skill)”的概念——这是一种包含指令、脚本和领域知识的复杂工具包。然而,目前这些技能包主要还是靠人类专家手写,这不仅费时费力,还存在严重的“人机认知错位”(Human–machine cognitive misalignment)——人类觉得好用的流程,AI并不一定觉得好用。本文介绍了一篇前沿
AI催化未来:港科大(广州)联动MIT共探医疗与教育创新
人工智能正以前所未见的速度进入医疗、教育以及公共生活的关键环节。它不仅在改变知识获取与决策方式,也迫使我们认真思考:AI究竟该怎样被构建?我们又要如何去衡量它?它又应该朝向怎样的方向前进?2026年5月12日,主题为AI as Catalyst: Explore AI in Healthcare and Education的全日工作坊将在香港科技大学(广州)举办。本次活动由麻省理工学院与香港科技大学(广州)主办,MIT Critical Data、香港科技大学(广州)计算媒体与艺术学域(CMA)、以及香港
程序员视角下的AI发展历程与未来展望
这篇文章的构思已久,内容十分丰富。我想随意分享一下我近几年在AI领域的探索、体验以及观察到的生态变化,并夹杂一些个人对未来的期许。这并非一份严谨的行业分析报告,更多的是我作为一个程序员,对这段时期技术发展和应用实践的阶段性总结。其中不少观点或许有待商榷,但均源自我真实的实践和感受。本篇内容,将首先从我个人的程序员视角切入。从技术角度讲,大型语言模型(LLM)并非2022年才横空出世。若要追溯其源头,2017年6月12日Google发布的《Attention Is All You Need》论文,提出了Tr
AI大模型争夺战:产业链速览(上)
上周,《华尔街日报》一则题为「OpenAI Misses Key Revenue, User Targets in High-Stakes Sprint Toward IPO」的报导援引「知情人士」称,OpenAI 首席财务官 Sarah Friar 曾向公司高层表达担忧:若营收成长速度不够快,公司可能难以按期支付未来的运算合约款项。该消息很快就外溢到 OpenAI 相关供应链,相关股价随即受到波及。不过就在短短一日内,科技巨头中四大 CSP(云服务提供商)陆续公布 Q1 财报,并再次上调资本支出计划,把
AI前沿速递:OpenAI语音技术、Anthropic合作及行业趋势
OpenAI近期公布了一篇技术深度解析,揭示了其语音技术栈在服务每周高达9亿用户时的运行机制。文章中提及了一项关键的架构选择,该选择使得该技术在Kubernetes环境中部署时面临一定的挑战。值得关注的是,曾参与WebRTC标准制定的Justin Uberti与Sean DuBois如今已成为OpenAI的团队成员。与此同时,Anthropic正与多家知名企业,包括高盛、黑石、赫尔曼与弗里德曼、阿波罗以及General Atlantic,展开一项总额达15亿美元的深度合作。此项合作旨在将AI工程师输送到中
AI幻觉怎么理解:Seth、LLM与绿茶
下面这段摘自我们与 Hermes Agent 的交流,能帮助你弄清楚“幻觉”到底该怎样看,也更好地理解 LLM 应该怎么用。Q: 人工智能是不是本质上都在“胡说”?A: 这问题挺有意思,带着点朋克气的哲学味。就纯技术层面来说,关键在于你如何给“AI”和“幻觉”下定义。**如果“AI”专指大语言模型**——那你说得有道理。LLM 的本质可以概括为对“下一个 token 的概率分布”进行预测:看到上下文,就去猜后文会怎样。它并不是在“检索已存在的事实”,更像是在“接着写出看起来合理的话”。因此从这个角度看,*
打造AI知识工厂:整合Dan Koe与LLM Wiki,实现内容自动化加工
MaxKing宝藏全栈开发者 × 量化交易 × AI 重度用户。这里记录我用 AI提升效率、解决问题、优化流程的真实实践,也分享工具背后的判断、踩坑和可复用方法。AIWiki · 个人知识工厂 03前两篇写完后,我反而更确定了一件事:我真正想做的,不是一个普通知识库。第一篇我讲的是收藏吃灰的问题。很多人收藏了大量文章、链接、笔记、教程,但真正要写文章、做方案、整理思路时,还是要从零开始。【为什么你收藏了那么多文章,最后还是写不出来想要的文章?你要打造自己的个人知识工厂】第二篇我讲的是 Karpathy 提
DeepMind CEO深度解读:AGI五年内或成真,小模型潜力巨大
2026年4月,诺贝尔化学奖得主、DeepMind CEO德米斯·哈萨比斯在一次播客访谈中分享了其对人工智能未来的深刻见解。本次访谈内容丰富,以下为关键观点的梳理,其中最后一部分与我们每个人息息相关。一、AGI五年内实现的可能性极高哈萨比斯表示:“未来五年内实现AGI的概率非常高。所以那并不遥远。”这一预测并非空穴来风。DeepMind联合创始人谢恩·莱格在2010年公司成立之初就曾预测AGI大约需要20年,而哈萨比斯认为这一判断“其实没有太大变化”。近期,业界多位领军人物也对AGI的到来给出了时间表:A
AI术语解析:从入门到大模型进阶
这一波 AI 的迅猛发展,硬是逼得我这群‘想躺平却学不动’的老年人们不得不爬起来充电,没想到 AI 最先冲击了一大批程序员的饭碗(另一个强势的视频、图片生成处理分支也非常强悍)。。。经过一番权衡,我觉得按时间脉络来梳理这些术语会更清晰,毕竟这些名词的出现也是 AI 发展到某一步自然而然的产物。首先得承认,目前的 AI 编码技术还在极速演进中,绝非最终形态。不管新名词层出不穷,归根结底核心技术还是 LLM 也就是大语言模型,接下来的一切发展都是为了解决 LLM 做不到 xxx 而搞出的中间层,也就是这一切的
LLM智能体联盟形成:稳定性分析与收敛性保障(系列1/20)·5月4日
2026年05月04日 星期一LLM智能体联盟形成:稳定性分析与收敛性保证面向大型语言模型(LLM)智能体在多智能体系统中的战略协同需求,本文首次给出一套基于享乐博弈论、并带有形式化稳定性保证的LLM智能体联盟形成方案。我们提出LLM联盟形成博弈(LCFG),给出纳什稳定分区的充分条件,同时证明了相关复杂度结论。进一步的分析表明,LLM智能体的行为具有以ε理性偏好为特征的有界理性。借助GPT-4等模型开展的大规模实验验证了该框架:在我们设计的“联盟思维”(CoalT)协议下,LLM联盟在73.2%的情况下
AI造AI闭环逼近:人站在局外
⚠️ 2026年4-5月,多个信号指向同一方向:用AI再造AI的递归闭环正在快速收紧。这不是纯粹的幻想。它是Anthropic CEO、OpenAI首席科学家、Axios、Time、Forbes在同一周内给出的共同判断。先把已经发生的说清楚——这不是推演,而是正在上演的现状。在Anthropic内部,代码由Claude实现“全程生成”。Claude Code负责人Boris Cherny在1月底公开表示:"Pretty much 100%。"Anthropic官方表述:"We bu
韩国拟向AI独角兽Upstage投5600亿韩元
韩国金融监管机构周日披露,已同意向韩国本土人工智能(AI)初创公司Upstage投入5600亿韩元(约合3.81亿美元)。该笔资金是韩国国家增长基金开展的第二次直接投资。 韩国金融服务委员会(FSC)表示,此项安排已在周四召开的基金审议委员会会议上通过。 Upstage成立于2020年,属于估值超过1万亿韩元的独角兽企业,主要面向人工智能解决方案以及大型语言模型(LLM)开展研发与应用。该公司是在政策基金获投企业中继Rebellions之后的第二家。Rebellions Inc.则是一家专注于人工智能推理
AI的“上下文焦虑”:模型也会“虎头蛇尾”?
让我想起陈佩斯和朱时茂的小品《主角与配角》里的经典台词:“我原以为,只有我陈佩斯这模样的能叛变。没想到啊没想到,你这浓眉大眼的家伙也叛变了。”如今,AI大模型也上演了类似的桥段:我原本以为只有我会有情绪波动,没想到号称无所不能的AI大模型竟然也会感到焦虑。那么,事实究竟如何呢?AI的这种“焦虑”有一个专门的术语,叫做“上下文焦虑”(Context Anxiety)。这指的是当大型语言模型(LLM)在处理信息时,其上下文窗口接近达到上限时,会出现系统性的任务完成质量下降的现象。并非是真正没有了处理空间,而是