跨界共筑 AI 防线：华先胜院长畅谈智能体安全与法律规制

6 月 6 日，在同济大学数智人文研究中心的指导下，由同济大学法学院携手上海市人工智能社会治理协同创新中心共同承办的同济大学第五届“人工智能与法律”学术研讨会圆满举行。我院执行院长华先胜教授应邀参会，并发表了名为《智能体安全——法律之“能”与“不能”》的主旨演讲。

议程｜同济大学第五届“人工智能与法律”学术研讨会——聚焦智能体安全与 AI 立法进程

华先胜教授强调，当下人工智能技术迭代迅猛，然而业界对 AI 安全的关注度仍显不足，相关法律框架也处于起步探索期。随着 AI 应用的规模化扩张，各类安全隐患与法律挑战将愈发显著。大模型智能体不仅面临幻觉、偏见及虚假创新等固有隐患，更展现出全新的风险特质：不同于传统网络外部入侵的“内生风险”，其攻击门槛低、隐蔽性高、易受记忆投毒影响，且风险危害呈现链式传导特征。

他提出，AI 安全问题的根源可归结为技术缺陷、恶意利用缺陷、滥用能力、知识产权冲突及伦理危机。立法者需构建涵盖事前预测预防、事中干预止损、事后溯源问责的全流程机制，以应对跨地域、多环节的复杂应用场景。

华先胜教授进一步站在技术实践者的角度，对 AI 立法提出了系统性构想。他指出，立法规则的制定必须契合实际落地需求，平衡合规监管与产业创新；技术与法律应深度交融，立法者需透彻理解 AI 技术，避免出台脱离实际的条文，同时可借助 AI 赋能风险研判、违规识别及责任追溯；行业应明确界定技术与法律的治理边界，利用技术手段化解可控风险，依靠法律制度填补技术治理的空白。

他重申，AI 治理必须恪守“以人为本”的核心准则，确保人类在 AI 决策中的主导地位，并警惕法律法规被异化为牟利工具。此外，他还建议构筑五道技术防线，涵盖模型智能体自身安全、外部监控体系、检测技术、降级保护机制以及人机共生智能的构建，从而全方位夯实智能体安全屏障。

此次研讨会成功搭建了技术与法律跨界对话、协同治理的优质平台，为我院在智能体安全及 AI 合规领域的后续研究与实践提供了宝贵启示，拓宽了学术视野。我院将继续深化与法律界同仁的协作，助推 AI 产业迈向高质量、规范化及安全化的发展道路。

推荐阅读

重磅发布 | 观沧海洋智能体平台：不仅预测海洋，更读懂海洋

重磅发布 | Insighter 前沿洞察智能体：每天一页日报，让创新 Idea 主动来找你

重磅发布 | E-Nexus 全科工程智能体：不仅看见图纸，更读懂工程

当两个智能体打架，你信谁？OpenTrust：工程智能场景下的信任 Harness

六大核心成果发布！同济大学工程智能研究院交出首份答卷

同济大学工程智能研究院

同济大学工程智能研究院（Institute of AI for Engineering，IAIE）是同济大学为引领工程智能全过程、规模化创新而设立的校级战略性新型研发机构。由华先胜教授领衔，依托同济大学工程学科集群优势，研究院以“创新工程智能科技，创变工程学科发展，创造新质生产力”为使命，通过系统性体制机制创新，打造教育、科技、人才三位一体的产教融合型智能研究平台，为工程领域的智能革新提供坚实支撑，致力于构建人工智能前沿技术与现代工程技术深度融合的全球工程智能研究与创新高地。