标签

【每日一词】零基础了解AI:模型微调是什么

所谓AI微调,就是以已经完成预训练的通用大模型为起点,借助特定领域的小批量数据对该模型开展二次训练,从而让它更好地匹配某一具体任务或行业需求。这就好比一个经历过"通识教育"的大学毕业生,走上工作岗位后还需经历"岗前实训",以便快速掌握特定业务的运作方式。微调的精髓体现在对参数的局部优化。预训练阶段让模型积累了大量通用语言知识,而进入微调阶段后,通过投喂医疗病历、法律条款、企业客服问答等专业化数据,模型便能逐步习得该领域的术语习惯与应答逻辑。比如,将通用模型微调为一个"文学赏析助理"后,当它解读张爱玲作品时

2026-09-03 22:03:22  |  4 阅读

OpenAI万字深度揭秘:大模型为何沦为“满嘴跑火车”的赌徒?全因人类评测逼的!

你一定经历过这种令人崩溃的瞬间:你虔诚地向AI请教一个非常严肃的疑问。 它秒回答案,而且旁征博引、用词讲究、语气相当笃定。可是,当你顺着它给的线索去核实,却发现文献是杜撰的、数据是胡诌的、连历史事件都是凭空捏造的!大模型为何宁愿信口雌黄,也死活不肯坦坦荡荡地说一句“不清楚”?▲ OpenAI与佐治亚理工学院联合发布论文《Why Language Models Hallucinate》OpenAI 与佐治亚理工学院的学者于 2025 年 9 月推出论文《Why Language Models Halluci

2026-08-29 06:36:39  |  8 阅读

OpenAI顶级路线图曝光:公开模型早被甩开两代,实验室深处竟暗藏两尊"终极武器"!

假如你认为刚刚体验的 GPT-5.6 就代表了当下人类 AI 的极限水准,那可就大错特错了。就在最近这几天,硅谷 AI 圈的重磅内幕突然被撕开了一角。多位一线独立研究者与半导体行业分析师的消息源接连放出声响,将 OpenAI 深藏于实验室最核心区域的机密规划彻底曝光:我们目前在 ChatGPT 上所能触及的"最强模型",不过是 OpenAI 上一阶段的成果;而在实验室深处,OpenAI 不但早已打造完毕下一代旗舰,连"再下一代"的超大基座都已经训练完成!▲ 社区爆料汇总帖:公开产品仍停留在 Spud 时代

2026-08-29 06:24:54  |  13 阅读

揭秘:大模型是如何炼成的?

前言 · PREFACE你是否好奇,像ChatGPT、DeepSeek这类大语言模型,究竟是凭借何种魔力,让冰冷的机器拥有了“语言能力”?核心答案在于“训练”。但这看似简单的二字背后,实则隐藏着惊人的数据量、巨额算力消耗及极高的技术门槛。接下来,我们就来层层剥开,看看这些“超级大脑”究竟是如何被锻造出来的。若将大模型的训练比作建造摩天大楼,那么数据便是砖瓦,算力是施工团队,而算法则是设计蓝图。这三者缺一不可。海量信息涌入数据中心,依靠成千上万块GPU进行着不知疲倦的“处理”在数据维度,顶尖模型需要处理TB

2026-08-28 22:16:26  |  9 阅读

AI频道|Astra紧急暂停与Doug正式起航:OpenAI十万亿参数预训练再启,安全防线能否同步匹配?

近日,长期关注OpenAI模型进展的X平台用户ChrisGPT透露:OpenAI正在推进代号Doug的全新大型预训练项目,参数量级约为10万亿,最快将在2026年11月之前面世。而就在3天前,OpenAI才刚刚因安全顾虑暂停了"GPT-6"(即Astra模型)的开发工作。这组动态背后最关键的转折,并非10万亿参数这一数字本身,而是OpenAI在连续近两年依托后训练、强化学习与推理时算力来驱动模型能力增长之后,再度回归大规模基础模型的迭代路径。这意味着"预训练规模法则"并未过时,而是踏入了由英伟达Vera

2026-08-13 13:50:43  |  23 阅读

AI资讯速递|OpenAI代号Doug超大规模模型首度公开

1.代号Doug的OpenAI巨量模型引发关注8月9日,据传OpenAI正在研发代号Doug的超级预训练模型,这将是该公司迄今规模最大的预训练工程,且与传闻中的GPT-6无关,预计将于11月前发布。据悉,GPT-6可能是OpenAI推迟发布的最强模型Astra。过去两年,OpenAI主要通过后训练和强化学习提升模型能力,未进行基础模型迭代。随着预训练技术的突破,Doug将重启基础模型的大规模迭代,或将成为OpenAI开启新一轮AI竞争格局的关键。2.人形机器人公司宇树科技定于8月10日开启申购人形机器人企

2026-08-09 17:55:51  |  18 阅读

AI为何能输出复杂推理过程?原理大揭秘

AI 原理系列当我们使用AI时,若开启深度思考模式,模型会展示一连串的思考轨迹涵盖拆解难题、逻辑推导,甚至自我纠错比如像 “等等,感觉不对,我重新思考一下”这些繁复的逻辑推导究竟是如何实现的?首先,AI大模型的训练主要分为三个阶段预训练阶段监督微调阶段强化学习阶段别担心,这三个概念听起来很深奥,但我会尽量通俗地解释,让你了解核心逻辑让我们开始正题首先,AI大模型在完成预训练后—— 就从 初始模型 升级为 基座模型此时通过海量数据的洗礼,人类世界的常识与物理法则已被内化于模型内部具体是如何内化的?本质上就是

2026-07-21 02:46:04  |  40 阅读

人工智能的训练三部曲

前文我们解释了 AI 的本质。本文探讨最引人关注的问题,这样的系统,人类是如何构建出来的?别紧张,不谈复杂算式,我们用“炼丹”来比喻——大模型这枚“灵丹”,需要经历三个阶段,缺一不可。 数据喂养(预训练) 大模型的起始,是“喂养”。将网络上可获取的图书、文本、网页、程序代码,数以千亿计的词汇,大量输入其中。这个环节称作“预训练”。 输入后做什么?让它进行一个填字游戏:把语句中的词语隐藏,让它猜测被遮盖的内容。猜错就调整参数,猜对则继续。经过亿万次循环,它便将人类语言的模式、知识、推理,都“浸泡”进那数千亿

2026-07-11 07:58:35  |  36 阅读

人工智能探索笔记|大模型究竟为何物?

轻点关注加入我们开篇近两年来,无论你是金融从业者、材料研究员,还是气象预报专家,甚至只是闲暇时浏览手机,都难免被“大模型”这个词汇频频冲击。科技巨头们狂热地将数千亿资金倾注于数据中心。采购芯片、铺设电网,仿佛要将全球服务器连为一体。有人戏言,如今大模型每升级一代,地球的碳排放就得剧烈波动三次。这不禁令人困惑。以往提及AI,不外乎人脸识别、刷脸支付,或手机相册自动归类。为何转瞬间,这些话题被搁置,满耳尽是“大模型”?大模型到底是何种庞然大物?我们常听到的Token,又在故弄什么玄虚?今日我们不涉艰深学术论文

2026-07-06 20:06:14  |  41 阅读

AI论文精选:可重复性、机器人优化与健康评估新进展

1. 利用GitHub问题提升可重复性审计:ReproRepo通过标准化流程实现规模化验证 原文标题: ReproRepo: Scaling Reproducibility Audits with GitHub Repository Issues 发布时间: 2026-06-16 论文链接:http://arxiv.org/abs/2606.18237v1 复现研究结果的论文与代码发布是科学进步的核心环节。现有工作已构建基准测试来评估大语言模型代理在可重复性审计中的作用,但存在数据标注和人工评估成本过高、

2026-06-18 07:32:00  |  38 阅读

清华团队研发AI驱动PDE智能计算框架并开创预训练有限元新方法

清华新闻网6月2日电 偏微分方程(PDEs)作为刻画复杂物理系统演变规律的核心数学工具,也是航空航天、先进制造、能源装备、生物医学工程等领域开展数值模拟与工程设计的重要基础。传统有限元、有限体积、有限差分等数值方法在过往数十年间取得了显著成就,但在处理复杂几何、强非线性、多尺度、多物理场及高维参数空间等问题时,仍面临计算开销大、重复求解耗时长、数据与物理融合困难等瓶颈。近年来,人工智能与科学计算深度交叉融合形成的AI for Science正在引领科学研究范式的深刻变革。其中,运用人工智能技术求解偏微分方

2026-06-11 09:56:06  |  30 阅读

AI研究前沿速递(6月11日)

LG - 机器学习 CV - 计算机视觉 CL - 计算与语言1、[CL] 跨越鸿沟:前沿大语言模型能否通过标准化办公能力考核? 2、[LG] 统一大语言模型预训练中的本地通信与本地更新 3、[LG] 能精简(至少量Token)者,皆不易过拟合:机器学习研究智能体中的压缩与泛化 4、[LG] 解决反馈对齐中的秩崩溃问题 5、[CL] 汇聚真实复杂环境下的AI智能体集体智慧驱动科学新发现摘要:前沿大语言模型能否通过标准化办公能力考核、统一大语言模型预训练中的本地通信与本地更新、机器学习研究智能体中的压缩与泛

2026-06-11 08:02:41  |  48 阅读

AI 进化史:从规则机器到大语言模型的蜕变之路

导语:昨日我们探讨了一个核心议题:究竟何为大语言模型?先来简要复盘:大语言模型好比一位博览群书的"超级语言天才",它通过吞噬海量文本来掌握语言逻辑,具备写作、摘要、翻译、编程及陪聊等多重技能。然而,许多人心中或许仍有疑问:其实早在上世纪 50 年代,科学界便已开启相关思索:1950 年,英国数学家艾伦·图灵提出了举世闻名的"图灵测试"。其核心逻辑是:让一名测试者同时与机器及真人进行对话。若测试者无法分辨哪方是机器、哪方是真人,则该机器可被视为拥有一定智能。这听起来是否与我们今日同 AI 助手交流的场景如出

2026-06-09 13:31:23  |  25 阅读

字节 Seed 澄清:顾全全并非 AI 制药与预训练主管

鞭牛士6 月 8 日讯,近日有消息指出,前字节跳动 Seed 团队成员顾全全已离职投身创业,外界将其职位界定为 Seed 团队中 AI 制药及大模型(LLM)预训练板块的负责人。针对此事,字节 Seed 内部人士回应称,顾全全在职期间确实参与了生物分子结构预测以及 LLM 预训练的部分项目,但他并非字节 Seed 在 AI 制药和预训练领域的总负责人,公司方面对其具体的创业计划并不知情。早些时候,顾全全已在海外社交媒体上正式宣布脱离字节跳动 Seed 团队,为其三年的任职画上句号。欢迎关注鞭牛士公众号:访

2026-06-08 14:31:04  |  35 阅读

AI术语快速指南

本文不聊深奥理论,主打“短平快”。将这20个术语划分为四大维度,每个词用一句话讲清楚。建议收藏,下次开会可悄悄对照使用。AI01 与“大脑”相关(模型基础篇)这些术语决定了你使用的AI究竟有多智能。•预训练:AI的“九年义务教育”。在正式出道前,它阅读了互联网上的所有书籍和文章,掌握了语言和常识,但尚未学会如何听从指令。•基座模型:刚毕业、尚未经历职场磨练的“大学生”。知识渊博,但不懂规矩,问什么答什么,甚至可能口出秽言。•Transformer:现代AI的“大脑架构”。可理解为AI的“神经元连接方式”,

2026-06-05 13:09:51  |  59 阅读