范畴论专家在人工智能领域的发展动态
https://johncarlosbaez.wordpress.com/2025/02/08/category-theorists-in-ai/
作者：John Baez
发布日期：2025年2月8日
范畴论研究者正纷纷涌入人工智能领域，因为那里有丰厚的回报。我本人避免从事这方面工作，既是因为我本能地反感“追逐热点”，也是因为当前的人工智能主要被用来让富人和权贵变得更加富裕和强大。
不过，我还是喜欢关注范畴论研究者是如何获得人工智能相关工作的，以及他们都在做些什么。他们中的许多人都是我的朋友，所以我很好奇他们将为人工智能乃至整个世界做些什么——以及从事人工智能工作将如何改变他们自己。
让我列举一下目前的动向。我将从一个警示性的故事开始，然后转向当今连接人工智能与范畴论的最重要的项目。
当马斯克及其人工智能负责人安德烈·卡帕西无视工程师乔治·摩根的担忧——即当前的深度学习技术无法“无限扩展并解决所有问题”——摩根离开了特斯拉，创立了一家名为Symbolica的公司，致力于符号推理研究。亿万富翁维诺德·科斯拉给了他200万美元的种子资金。起初，他采用基于超图的方法，但随后这些研究人员撰写了一篇立场文件，推动公司转向了不同的方向：
Bruno Gavranovic, Paul Lessard, Andrew Dudzik, Tamara von Glehn, Joao G. M. Araújo 以及 Petar Velikovic，《立场：范畴深度学习是一种关于所有架构的代数理论》(Position: Categorical Deep Learning is an Algebraic Theory of All Architectures)。
科斯拉看好这个新方向，又向Symbolica追加投资了3000万美元。在加夫拉诺维奇和莱萨德的建议下，摩根雇佣了包括多米尼克·维里蒂和尼尔·加尼在内的范畴论研究者。
但摩根从未完全接受范畴论：他仍想推行自己的超图方法。一段时间后，摩根与范畴论研究者之间的持续分歧造成了损耗。他解雇了一些人，甚至有人被当场从办公室带走。另一些人则主动辞职。由于保密协议的存在，这些人不再公开谈论发生了什么。
因此，给范畴论研究者，或者实际上任何有好点子的人的一个教训是：在你的想法帮助别人赚大钱之后，他们可能反过来有能力炒了你。
大卫·达尔林普尔正在英国机构ARIA运行一个耗资5900万英镑的“安全人工智能数学”项目。他对为此目的使用范畴论非常感兴趣。
以下是“安全人工智能”项目网页上的说明：
为何设立该项目
随着人工智能能力的增强，它有潜力推动科学突破、增强全球繁荣并保护我们免受灾难。但这只有在明智部署的情况下才能实现。目前用于缓解高级人工智能系统风险的技术存在严重局限性，且在经验上无法依赖以确保安全。迄今为止，针对为人工智能系统提供定量安全保障的方法，研发投入极少，因为这些方法被认为是不可能的或不切实际的。
我们的目标
通过结合科学世界模型和数学证明，我们将致力于构建一个“守门人”：一个被赋予理解和降低其他人工智能代理风险的任务的人工智能系统。在此过程中，我们将开发出我们所期望的、类似于核能和民航领域那样的人工智能定量安全保障。
你可以在这里阅读更多细节。
以下是从该项目中获得资助的一些范畴论项目。此处仅引用网站内容：
1. 概率过程范畴的弦图公理化理论
负责人：Fabio Zanasi，伦敦大学学院
内容：旨在为重要的概率过程范畴提供完整的弦图公理化理论，并利用这些理论开发针对不同种类概率图模型的组合分析方法。
2. 安全：支撑安全人工智能的核心表示
负责人：Ohad Kammar，爱丁堡大学
团队：Justus Matthiesen, Jesse Sigal
内容：设计一个利用准博雷尔空间语义结构的演算。该团队将开发准博雷尔空间的内部语言作为随机过程的“语义宇宙”，定义便于类型检查和版本控制的语法，并与其他团队合作（嵌入其他形式主义）。
3. 哲学应用范畴论
负责人：David Corfield，独立研究者
内容：计划通过应用范畴论整合跨学科知识，克服传统哲学形式主义的局限性。将探索分级模态逻辑、类型论和因果关系，并开发支持更广泛安全人工智能项目的概念工具。
4. 面向安全人工智能的双范畴系统理论 (DCST)
负责人：David Jaz Myers，Topos研究所（英国）
团队：Owen Lynch, Sophie Libkind, David Spivak, James Fairbanks
内容：利用双范畴系统理论作为数学框架，促进利益相关者、领域专家和计算机辅助工具之间的协作，共同设计自主人工智能系统部署环境的可解释且可审计的模型。团队将扩展该框架以纳入系统安全性和可靠性的形式化验证。
5. 幺半余代数度量
负责人：Filippo Bonchi，比萨大学
内容：建立一个超越定量代数理论和度量空间上余代数所能表达的鲁棒数学框架。通过从笛卡尔设置转向幺半设置，利用代数上下文（增强语法基础）和余代数上下文（提供鲁棒的定量语义和有效技术）来研究这些度量。
6. 双范畴系统逻辑：一种规范语言理论
负责人：Matteo Capucci，独立研究者
内容：旨在开发一个逻辑框架，以分类和操作各种用于推理复杂系统及其行为的逻辑系统。目标是研究系统的组合结构与形态学结构与其行为之间的联系。
7. 可组合系统的真正范畴编程
负责人：Jade Master 和 Zans Mihejevs，格拉斯哥人工智能验证实验室 (GLAIVE)
团队：André Videla, Dylan Braithwaite
内容：旨在开发一种支持现有语言尚不支持的关键数学结构的范畴编程类型论（包括函子、泛性质、Kan扩展等）。目标是创建一种能准确将范畴概念转化为代码的类型论，并将其部署以开发与安全人工智能数学基础相关的关键定理。
8. 利用范畴概率实现安全人工智能
负责人：Sam Staton，牛津大学
团队：Pedro Amorim, Elena Di Lavore, Paolo Perrone 等
内容：利用范畴概率研究世界建模的关键要素。将研究不精确概率（为不安全行为的概率提供界限）和用于世界建模的随机动力系统，并建立语义版本控制的鲁棒基础。
9. 多模态Petri网的符号学与语义学
负责人：Amar Hadzihasanovic，塔林理工大学
团队：Diana Kessler
内容：为多模态Petri网开发组合和图解语法及范畴语义。这些网络将模拟经历模式或阶段转变的动力系统。目标是创建一个范畴论框架，用于数学建模和安全设计的规范。
Topos研究所是位于伯克利的一个专注于范畴论的数学研究机构。那里的三位年轻范畴论学者——Sophie Libkind、David Jaz Myers 和 Owen Lynch——撰写了一份名为“面向安全人工智能的双范畴系统理论”的提案，并获得了ARIA的资助。因此，他们现在正迁往牛津，将与 Tim Hosgood、José Siqueira、Xiaoyan Li 等人一起在Topos研究所的第二分支机构——Topos UK工作。
格拉斯哥人工智能验证实验室是一家非营利性有限公司，专注于将范畴论应用于人工智能验证。为其工作的人包括 Dylan Braithwaite、Jade Master、Zans Mihejevs、André Videla、Neil Ghani 和 Jules Hedges。听说他们正在设计基于范畴论的类型论和编程语言。
与Topos UK一样，Glaive也得到了ARIA的支持。
Conexus AI 由 Ryan Wisnesky 领导，其相关的开源项目 categorical data 将函子数据迁移及相关范畴和形式化方法应用于数据集成问题（该技术被称为生成式符号人工智能），并用于所谓的“安全人工智能”（用于验证大语言模型的输出）。
除此之外，Tai-Danae Bradley 是 Sandbox AQ（一家专注于人工智能和量子技术的初创公司）的研究数学家。她在自然语言处理方面应用范畴论发表了几篇有趣的论文。
VERSES 是一家“构建下一代智能软件系统的认知计算公司”，Karl Friston 担任首席科学家。他们聘请了范畴论学者 Toby St Clere Smith 和 Marco Perrin，他们正在开发用于近似贝叶斯推断的组合工具。
本文发表于2025年2月8日，归类于计算机科学、风险。你可以通过RSS 2.0订阅回复。