奇点科学会议启航：聚焦AI安全核心议题，顶尖提案直通AGI4S攀登计划

开放的科研社群能催生革命性创新。上海人工智能实验室为此打造了浦江科学社区，并设立明珠湖论坛等学术品牌，激励勇于突破科学疆界的研究者发现并提出前沿课题。2025年，明珠湖论坛已圆满举办两届，汇聚全球数百位青年精英，形成21份创新方案及97项关键问题集，其中7项方案已获项目资助。

2026年，明珠湖论坛正式更名为“奇点科学会议（明珠湖）”，定于4月24日至26日在上海召开，面向全球AI领域青年才俊与产业领袖发出诚挚邀请。为期三天的学术盛宴以“安全可信AI：从边界探索到体系构建”为主线，通过“精准选题-深度剖析-战略聚焦”等模块，探寻以安全保障驱动AI产业高质量发展的创新路径。

对于会议征集的优质议题与相关方案，上海AI实验室将依托“AGI4S攀登者行动计划”等创新机制，配置人才、项目及专项基金等全方位资源，助力颠覆性技术从实验室迈向全球舞台。

1

会议信息

时间：2025年4月24日至26日（周五至周日）

地点：上海·崇明

2

报名信息

报名通道已开启，欢迎扫码报名。

报名要求：

请提交个人信息及对安全可信AI的深度思考，并上传一份简历（PDF格式）。

截止时间：2026年4月21日18:00

3

核心议题

议题一：内生安全 |机制探索与架构突破

1、针对模型内生安全，哪些问题适合通过知识性遗忘解决，哪些必须依赖认知性判别机制？

2、现有Transformer架构缺乏原生安全干预通路，难以从底层突破“外挂防护”局限，内生安全的模型架构如何设计？

3、从大模型到智能体，内生安全能力应如何延续与扩展？

4、Claude Mythos等前沿模型超级能力/威胁的涌现对内生安全带来哪些新启示？

议题二：安全底座 | 构建AGI时代的安全可信体系

1、智能体全流程安全：如何量化误差对决策的传导效应，形式化定义安全边界，实现权限动态管控与端到端可控？

2、多智能体系统安全：如何设计微隔离与风险阻断机制，实现安全能力的跨智能体泛化？

3、未知风险安全评测：如何将安全度量嵌入全链路，将安全评测从“静态测题”升级为“真实闭环验证”，并建立涌现风险预警机制？

4、AGI4S安全（CBRN双重用途风险）：如何识别科学发现与武器化风险边界，结合护栏与红队对抗，实现全生命周期可审计、可拦截？

议题三：产业安全 | AGI时代的安全重塑与价值跃迁

1、如何立足行业通用的设施架构与技术路线，将安全从风险防控升级为核心竞争力，构建贯穿研发与应用全链条的标准化安全防线，推动AI从试点走向规模化应用？

2、如何依托通用技术路线图，以产业资源反哺安全能力建设，聚焦算法可解释性等核心领域，构建安全技术与产业场景的协同机制？

3、如何基于通用架构构建安全稳态体系，统筹AGI可控性与场景适配性，建立人机协同演进机制，为产业创造长期可控的持续价值？

议题四：安全治理 | 构建包容互鉴的AI安全治理新路径

1、如何依托“一带一路”等多边合作平台，建立与技术底座相衔接的AI安全治理框架，实现从规则参与者到制度性规则制定者的跃升？

2、确定框架式引领路径后，应如何构建“话语-生态-设施”三层递进的落地体系？

3、AGI4S的安全对齐，应该继续套用“WMDP”的通用方案，还是建立“科学方法论内置”的专用标准？

4

会议议程

4月24日

报到，核心问题初聚焦

4月25日

引导报道

学术思辨

小组研讨

4月26日

小组研讨

提案演讲

成果展示及闭幕式

本届奇点科学会议（明珠湖）在寻找这样的你：

以AI推动产业升级的实干者

能够为AI提供安全盾牌的攻坚者

关注AI伦理与社会价值的开拓者

上海AI实验室提供一站式资源包：

科学社区扶持，邀请加入浦江科学社区，实验室重大科技攻关任务培养扶持等。

重要专项加持，结合“AGI4S攀登者行动计划”，提供“实验室-上海市-国家级”三层接力专项支持。

多元资源支持，专项算力、脱敏数据集及充足的研究经费。

在上海AI实验室举办的系列学术活动中，我们对话了多位参会青年代表，记录他们最关心的科学问题。同时，我们也期待，每一个有价值的问题，都能被看见，并最终得到解答。