前沿理论:可预见的人工智能
随着人工智能(AI)在自动驾驶、大型语言模型、智能体等领域的广泛部署,如何精准判定系统何时能安全、可靠地执行任务,已成为AI治理的关键议题。现有研究多聚焦于模型性能提升、可解释性或验证验证等问题,但对系统在特定应用场景中的有效性是否可提前预测关注不足。研究提出“可预见AI”概念,将预测重心从AI行为转向AI有效性,强调通过预测性能、安全、公平、能耗等有效性指标,提前界定AI系统的适用场景和运行边界。研究进一步构建预测框架,阐明可预见AI与可解释AI、可解释性、元学习、不确定性估计等领域的差异,为可信AI发
人工智能示范法4.0-43页(附下载)
内容摘要第一条(立法依据)为推动人工智能产业健康发展,规范技术研发、产品供给与应用实践,保障国家主权安全与发展利益,维护公民法人及其他组织的合法权益,特依据宪法制定本法。第二条(适用范围)凡在中华人民共和国管辖区域内开展的人工智能技术研发、产品供应及实际应用活动,均受本法约束。同时,境外开展的相关活动若对我国国家安全、公共利益或个人组织权益产生或可能产生影响的,亦适用本法。报告内容鉴于篇幅所限,本文档仅展示报告的部分章节完整版PDF获取方式更多报告内容请查阅菜单栏回复暗号人工智能示范法4.0(2026.5
AI风险治理的三大支柱:价值导向、核心原则与理论根基
(土:这是为参加5月9号无锡科学技术与公共政策年会准备的发言大纲,内容较为初步。)早在机器人仅存于概念阶段、尚未成为现实的百年前,具有风险意识的人们就已开始担忧:人类所创造的究竟会不会是一个弗兰肯斯坦式的存在——由人类亲手制造却无法驾驭的怪物。1950年,当人工智能与机器人即将从概念走向现实之际,著名科幻作家兼思想家阿西莫夫提出了机器人三法则,试图化解这一"弗兰肯斯坦情结"。七八十年光阴流逝,这一情结非但没有消散,反而愈发加剧。当前的困境在于,仅为机器人和人工智能设定规则已远远不够,更根本的任务是为AI的
李伦解读:人工智能科技伦理审查的边界与要点
人工智能科技伦理审查的适用范围——《人工智能科技伦理审查与服务办法(试行)》解读李伦(湖南师范大学人工智能伦理研究中心)人工智能科技伦理审查是防范人工智能伦理风险的重要措施,也是一项全新的工作。《人工智能科技伦理审查与服务办法(试行)》(以下简称《办法》)的发布是我国在这方面的一次有益尝试,对规范人工智能科学研究和技术开发等活动具有里程碑的意义。生物医学研究伦理审查在我国积累了大量经验,这些经验对人工智能科技伦理审查具有重要的借鉴意义。由于人工智能研发具有与生物医学研究不同的特征,要做好人工智能科技伦理审