智能控制论：AI与自动化系统的深层逻辑

当我们讨论人工智能时，通常关注的是它能帮我们完成哪些工作：撰写邮件、生成代码、会议纪要、回答问题等。但AI的本质功能远不止于此，它实际上在进行信息压缩、整合分散数据、构建上下文理解，并参与那些原本需要人类判断的决策过程。航空领域早已经历过类似的变革。驾驶舱的自动化系统和数字化航电设备接管了原本由飞航工程师负责的大量任务，使得三人驾驶舱逐渐简化为两人制。航空业的自动化发展向我们揭示了三分之一的工作可能因此消失。但更重要的是，航空业的自动化并非盲目推进，而是围绕一套结构清晰的组件建立严密体系，将新增的自动化功能视为这些组件的再分配。这一理念被称为工程控制论。1954年，钱学森奠定了工程控制论的基础理论；1981年，他开始将“人”的因素纳入考量，并在1990年代正式提出“人机结合、以人为主”的综合集成体系，即一个融合人类创造力与机器计算力的动态系统。下图展示了控制论在AI中的实际应用，该系统已相当成熟，并广泛应用于自动驾驶技术中。

--- 目标 目标作为各层控制逻辑的接口，由人来定义。人类负责设定价值取向、优先顺序和硬性限制，而AI则协助将其转化为可衡量的指标和验收标准。高层指令不能直接执行，必须先转化为当前控制层级可处理的目标、权重和约束条件。一个有效的目标应明确：要实现什么？优先级是什么？最低要求是什么？如何评估可接受性？何时需要暂停或重新评估？人类始终保留在必要时的否决权。如果目标无法在下一层被有效转化，它对系统而言就是无效信息。 控制器 控制器依据状态估计结果来选择下一步操作。它并不直接操作现实世界，而是基于压缩后的状态信息进行决策。其核心机制类似于模型预测控制（MPC）：预测未来几步动作，选择当前最优解，仅执行第一步，并在获得新反馈后重新评估和规划。控制器的关键在于：在当前约束和状态下，如何做出最佳决策以保留未来的可控性？当不确定性高、风险大或余量不足时，控制器应减缓节奏、缩小动作范围或请求人工复核，而不是强行推进。 执行器 执行器负责将控制器的决策转化为具体操作，但它本身不具有决策权。无论是分配任务、调用工具还是修改文件，都由它完成，但目标设定、权重分配、约束调整和权限边界的变化不在其职责范围内。低风险操作可自动执行，但必须具备可追溯性、可逆性和可审计性。高风险或不可逆操作必须经过人工授权或上级控制器批准。执行器仅负责验证权限、执行动作、记录日志并提供回滚接口。一旦执行器绕过审核机制、扩大权限或降低验收标准，就构成了越权行为。 受控对象 受控对象是控制动作实际作用的核心实体。每个受控对象只能由一个控制器管理，并且必须配备相应的传感器和状态估计模块。它可以是代码模块、智能体团队、业务流程或组织单元。系统必须明确：关键状态是什么？哪些操作可以改变它？哪些变化是可逆的，哪些是不可逆的？哪些状态目前无法观测？其状态变化既受系统内部动作影响，也受外部干扰影响。如果系统能影响某个对象但无法观察其关键状态，就会陷入开环控制——这是控制论架构必须避免的问题。 传感器 传感器负责收集环境数据——包括指标、日志、测试结果、差异反馈、人工审核、用户行为、产品判断和外部环境变化。传感器的设计取决于控制目标。优质的传感器应避免同源路径的干扰，尽可能从独立