透明AI蓝图问世：科学家破解黑箱决策过程

科学界普遍认为，无法解释决策逻辑的“黑箱”AI或将迅速被更透明的系统所取代。拉夫堡大学近期在《Physica D: Nonlinear Phenomena》期刊上发表的研究提出了一种构建AI的全新数学蓝图，该蓝图能清晰展示AI如何进行学习、存储信息以及做出判断。

该团队研制出一种集“大脑”与记忆功能于一体的原型系统。与传统AI不同，它能实现持续学习且不遗忘旧知，防止产生虚假记忆，并能像人类思维那样，通过强化或遗忘机制来管理信息。

“长久以来，智能一直被视为一种在黑箱中产生的产物，”论文第一作者、拉夫堡大学数学科学系的娜塔莉亚·詹森博士指出，“我们希望从根本上革新AI——构建了一个认知过程完全透明的系统。”

早期测试显示该原型机表现优异。在演示中，它无需人工指导即可学习音符和乐句，还能从卡通图像中识别并存储颜色。在所有任务中，其行为既可预测又可追踪，有效规避了AI常见的“灾难性遗忘”和虚假记忆问题。

研究人员指出，设计透明AI的主要障碍在于对自然智能中记忆、行为与物理结构相互作用机制的理解尚浅。这种认知差距使得构建既能处理复杂任务又能解释执行过程的系统变得异常困难。

该新方法的核心在于“可塑性矢量场”这一数学概念，它模拟信息随时间演变，复刻了大脑处理与存储信息的方式。这使得AI的学习与认知过程在每个阶段都可追踪，从一开始就具备透明性。

“要打造透明且按预期运行的智能系统，必须解决根本性问题，”詹森博士表示，“我们如何识别人类智能？通过行为。什么驱动了行为？大脑活动。但大脑活动的基础是什么？大脑的‘代码’是什么？记忆与生理结构有何关联？这正是我们试图解答的。”

研究团队还审视了现有神经网络，发现其许多局限性可能源于设计架构本身。

“令人兴奋且意外的是，我们现在能清楚地看到为何现有神经网络难以解释，”该研究作者之一、拉夫堡大学物理系教授亚历山大·巴拉诺夫指出，“这不仅是技术难题。它们的设计导致我们无法完全控制其学习与存储信息的方式。这正是新方法如此重要的原因。”

该原型系统目前仍较简单，需扩展方能用于实际场景。拉夫堡大学团队计划进一步开发，探索其广泛应用——包括新型硬件——旨在打造强大、易懂且可信的AI。

巴拉诺夫教授表示：“最终，这项研究让我们更接近日常生活中可信赖的技术——无论是更安全的医疗工具，还是更负责的自动化决策。”