AI七重奏[二]:为AI立下铁律

上一篇我们聊了AI乖巧的一面，乖巧没有错，乖是顺从，巧是能干，但如果乖巧衍生出“一本正经地胡说八道”，那么就得引起警惕了。

自从AI开始普及后，有个叫“幻觉”（Hallucination）词便诞生了。这个词其实并不陌生，因为在互联网上有很多称为“专家”的物种，早就有类似的行为，这些专家知识渊博且智商高达180，但从来没上过一天班，也没下过一天地，只在家里写段子。你问他量子力学，他能给你扯到盘古开天；你让他查个法律条文，他找不到，为了不让你失望，他竟然给你"现编"了一条。

当AI从陪聊玩具变成生产力工具时，这种"满嘴跑火车"的毛病是致命的。在医疗、法律、金融这些容错率为零的领域，你敢把身家性命交给一个随时可能产生"幻觉"的系统吗？所以，AI的下一步发展，已经不是比拼谁更聪明，而是比拼谁更"守规矩"。对于我这种从事了将近三十年信息化与数字化工作的人来说，我会推崇一个词，叫：工程化AI（AI Engineering）。

所谓工程化AI，就是将AI模型与算法从实验原型转化为企业级的，可扩展且稳定运行的生产系统的全套工程实践。有点拗口是吗？那我们简单点说，就是不能指望AI靠"灵光一闪"解决所有问题，而是要给它搭脚手架、建安全网、设审查岗。把人类的"规矩"，用严密的逻辑和代码，一点点刻进它的骨子里。我称之为“严肃的AI”。

举个实际的例子。你最好不要直接对AI说："帮我写一份符合中国劳动法的裁员通知。"它可能会把网上的段子和美国法律混在一起给你。你需要用工程化的方式"驯服"它：

1️⃣ 设定角色：你现在是一位拥有10年经验的中国劳动法专业律师。——定规矩：你得知道你是谁？

2️⃣ 限定知识库：请只参考《中华人民共和国劳动合同法》及相关司法解释，不要使用外部知识。——定规矩：你只能在我说的知识范围中给我答案。

3️⃣ 拆解步骤：先列出裁员的法定理由，再写通知正文，最后列出补偿金计算公式。——定规矩：你要按照我的要求给我成果。

4️⃣ 自我审查：写完后，请自己检查一遍，是否有违背现行法律条款的地方，如果有，请标红。——定规矩：不要糊弄我，你自己再检查下。

至于其它方面，你别来问我，我养你干什么的？（AI：是你养的我……？）

上面这种列举方式，就是现在许多AI爱好且入门者一直不明觉厉的的"提示词工程"（Prompt Engineering）。听起来很高大上，但不要被这些英文词吓倒，无非就是立规矩，并且把所有事情都尽量交代清楚。这就好比很多古代的明主，他知道手下不乏聪明并对自己唯命是从但其实很多小心思的属下，会构建一些规则让他在适当的范围行动。曹操对司马懿、日本的丰臣秀吉对德川家康，无不如此。

在这里，我插一句我要重申的话：如果AI闯祸了，你不要怪AI，乖巧是他的生存之道，你这个明主才是关键。当然，很多人做不成“明主”，因为他不知道如何去写“Prompt”，也没有去构建一个“Engineering”，关于这个话题，那是“另一个严肃的话题”，大家可以和我择日交流。

我们回到主线继续，说明一下，这种指令不仅是在输入端立规矩，在输出端，工程化设计还会要求建立一个“外挂大脑”。比如现在流行的RAG（检索增强生成）技术，就是不让AI凭空想象，而是先去一个可靠的数据库里找资料，然后严格根据这些资料来回答问题。

这样的场景，我们应该似曾相识。

大约在三十多年前，我与许多人一样，是中国IT时代最早一批电脑玩家，也是用网景浏览器访问瀛海威开始进入互联网浪潮的那批老鸟，最近可能最近年纪大了，总会想起以前的事情。

那时候我们的IT技术有很强的个人英雄主义烙印，我们往往一个人架设起一个大量用户的网站或者MUD游戏，然后每天与各种黑客斗智斗勇，可谓激情四射。当年的我们就像电影里的西部牛仔一样快意恩仇，像航海家一样探索各种未知领域。

目前的AI时代让我重温了年轻时候的放肆感，但确实这一切都“很不严肃”，所谓的严肃，是随着信息化真正成为企业生产力开始，那些诸如“协同化、工程化、标准化”这些的字眼，让当初看起来又坏又怪还有点帅的少年们变成了开车规规矩矩但成熟有度的中年人。我想这一切即将重演，西部牛仔只能在好莱坞电影里，剑侠狂魔也只能在小说里，能撑起你生活的，往往是钢筋水泥和考勤机。

AI的浪漫时代正在一点点逝去，严肃的AI工程时代已经悄然到来。一个真正好用的AI，很快将不会再是那个永远对你笑嘻嘻、什么都敢答应的"捧哏"，而应该是一个穿着西装、戴着金丝眼镜、会严谨地告诉你“这个问题超出我的知识库范围，但我可以为你提供以下三种替代方案”的专业人士。

AI以问答为主的模式也将变成融合在我们工作中的点点滴滴中，并且将完全革新我们目前更冗赘的工程体系，新老结合的“数智团队”会成为下一个三十年的风景。而同时也只有当我们学会用工程的锁链拴住天才的狂想，AI才能真正成为人类文明坚实的基石。

敬请等待下一章：《迷惘的AI：我的灵魂在哪里？我是谁？你是谁？》

[声明：文中插图由AI生成]