AI 工程从零起步：先打通底层全链路，再谈 Agent 构建

最近在学 AI 的朋友，常常会陷入一种尴尬处境。

你能调用模型、能搭建 RAG、也能把工具接入 Agent，可一旦输出走样、检索失灵、成本爆掉，排查就像在黑箱外面敲墙。

这套开源教程 ai-engineering-from-scratch，正是为了补上这一短板。

它不从“搭一个聊天机器人”切入，而是把学习路径拉回底层：数学、机器学习、神经网络、Transformer、LLM 工程、工具协议、Agent、生产环境。每一阶段都要求你亲手写出可运行的小实现，再去调用成熟框架。

听上去很硬核，可它的意义并非让每个人都去训练大模型，而是让你在使用 AI 工具时，清楚知道哪一环出了岔子。

仓库把内容拆成 20 个阶段、500 多节课程，覆盖 Python、TypeScript、Rust 与 Julia 四门语言。

前期是开发环境、线性代数、概率论、优化方法与传统机器学习；中期进入深度学习、计算机视觉、自然语言处理、Transformer 与生成式 AI；后期再拓展到 LLM 工程、多模态、工具与协议、Agent、多智能体、基础设施、对齐与综合项目。

路线很长，没必要把它当成一份必须从头刷到尾的清单。

更恰当的理解是：它绘了一张地图。你当下停在哪一层，就把哪一层补齐。

这门课程反复沿用同一节奏：

比如，学注意力机制时，先弄清它要解决的问题，再用小规模代码把流程跑通，之后才用 PyTorch 或其他框架落地。

这样做并不是为了证明“手写代码比框架更快”。框架显然更适合交付，但亲手实现过一个缩小版，调试时就会少一些玄学。

模型为何输出重复？损失为何不收敛？检索为何把无关片段塞进上下文？这些问题的答案往往藏在细节里，而不是下一条提示词里。

很多课程的终点是“你理解了一个概念”。这个仓库则多走了一步。

每节课都配有代码与讲解，并把产物单独放到目录中。产物可以是一条 Prompt、一个 Skill、一个 Agent，或是一个 MCP Server。

换句话说，学习并非只在笔记里新增一个名词。

你在弄懂 Agent Loop 之后，可以留下一个能复用的循环模板；学完工具协议后，可以留下一个能对接客户端的服务；完成调试课后，可以把排障提示词带回日常工作流。

对工程师而言，这种积累远比“收藏了一堆教程链接”更实在。

它更契合已经会写代码、但想弄清 AI 系统如何运转的开发者。

如果你属于下面几类人，可以从不同入口切入。

别急着冲进多智能体部分。

先把 LLM、检索、结构化输出、评估与工具调用补齐。把一条单 Agent 链路做稳，比让多个 Agent 互相寒暄更重要。

建议重点关注：Transformer、LLM from Scratch、LLM Engineering、Tools & Protocols、Agent Engineering。

从数学基础、机器学习基础与深度学习入门切入。

不必一开始就把每道推导做成考试题。先用代码把向量、梯度、损失函数、反向传播与优化器跑一遍，弄清它们各自负责什么。

将重点放在评估、数据管理、可观测性、权限、成本与部署上。

一个能演示的聊天框，离能长期运行的产品还很远。用户开始使用后，麻烦才真正浮现。

仓库支持直接在线阅读，也可以克隆到本机运行。

如果你准备动手，先从最小例子切入：

跑通以后，别立刻把目录一路点到 Agent 部分。

给自己定一个小目标，例如：

把一个主题做透，比连续刷十个目录更容易留下成果。

从零实现，并非要把你拉回石器时代。

它是在训练一种能力：当框架帮你抹平细节时，你依然清楚该检查数据、模型、提示词、工具调用还是运行环境。

做项目时，照样应该使用 PyTorch、成熟的向量数据库、模型 API 与现成部署方案。

区别在于，你不会把它们当作不可解释的魔法盒子。

AI 工程的知识面很宽，最怕的是今天啃一篇论文、明天搭一个 Agent、后天又换一个框架，最后只剩一堆半成品。

这门课程没有捷径，它给出了一条从原理到交付的连续路径。

从你眼下最常碰到的问题倒推，挑一个阶段，跑一个例子，写一份产物。能把这小一段走实，后面的工具迭代再快，心里也不会太慌。