七国集团聚焦AI治理：强化国际协作应对新兴技术风险
据媒体披露的一份声明草案显示，七国集团领导人将“进一步探讨人工智能催生的新兴机遇与潜在风险，尤其聚焦于金融行业”。 法国总统马克龙本周将在阿尔卑斯山区的埃维昂小镇主持七国集团峰会。鉴于与美国在贸易、气候等领域存在分歧，发布联合公报已非首要目标。关键在于确保美国总统唐纳德·特朗普能够出席此次会议。 该草案基本回避了争议性议题，但对人工智能着墨颇多，倡导加强国际协作。 就在七国集团展开讨论之际，美国政府表态愿意动用特殊权力，要求人工智能企业应对潜在安全隐患，不过6月发布的行政令又明确不会强制执行。 美国已要求
专题聚焦：生成式 AI 个人信息安全风险的治理路径
姚迁文 | 公安部第三研究所 姚迁 盛小宝 刘晋名当前，全球范围内的人工智能角逐已由单纯的技术比拼延伸至监管治理领域。据经济合作与发展组织（OECD）人工智能政策观察站统计，全世界已有逾 70 个国家和地区颁布了 800 多项 AI 治理相关法规，其中核心议题聚焦于如何强化人工智能应用场景下的个人信息防护。就国内而言，我国首部专门规范生成式人工智能的立法《生成式人工智能服务管理暂行办法》（简称《暂行办法》），在多个条款中着重强调了服务提供方与使用者在个人信息保护上的责任。譬如，《暂行办法》第四条明确规定，
中美人工智能安全合作路径
一种更为务实的做法是认识到，人工智能安全合作契合中美两国的共同利益。双方能够拓展关于前沿AI风险的专业对话，强化针对重大AI事件的沟通渠道，促进人工智能评估及安全测试的联合研讨，并寻求在军事AI及网络稳定性方面建立信任的措施。A more pragmatic approach is to acknowledge that AI safety cooperation aligns with the interests of both nations. China and the U.S. could exp
负责任AI之路：伦理原则与安全保障的双重维度
AI伦理与人工智能安全：负责任技术发展的基石（AI Ethics and AI Safety: Foundations for a Responsible Technological Future）（https://www.aaih.sg/ai-ethics-and-ai-safety/） 21世纪见证了技术的迅猛进步，人工智能（AI）已成为最具颠覆性的创新力量。当代AI技术已广泛渗透至医疗、教育、金融、安保和娱乐等诸多行业。随着人工智能能力的持续提升，人类社会面临一项关键抉择：如何确保这些系统以有益于社
业务引入 AI 智能体，为何可信知识图谱是首要前提？
当企业将 AI 融入业务系统时，关键不在于追问“模型能否给出答案”，而在于审视“企业是否敢信任该答案”。一旦 AI 涉足订单、采购、库存、质检、财务及客服等核心环节，可信度便不再仅仅是体验层面的考量，而是关乎经营责任、流程管控与风险治理的重大议题。核心研判可信 AI 是 AI 入驻业务系统的唯一准入门槛。业务知识图谱的真正价值，并非仅仅绘制一张关系网络，而是将可信数据、业务规则、权限界限、证据链条及反馈机制，整合成 AI 能够理解、调用并接受审计的业务语义体系。图 1：企业业务 AI 知识图谱主视觉在演示
人工智能安全的国际合作新视角
中国在人工智能治理与安全议题上展现了开放的国际合作姿态。近年来，中国陆续发布了多项政策文件和治理倡议，强调在推动AI技术发展的同时确保安全性。此外，中国的研究机构、科学家及政策学者也积极投身于全球AI安全议题的探讨。China has consistently shown an open stance toward global cooperation on AI governance and security. In recent years, a series of policy documents
AI 浪潮下，职场突围关键：六大核心管理力 | 六月精选课程
近两年来，学习 AI、大模型及自动化工具的热潮席卷职场。然而，越来越多的从业者逐渐意识到一个严峻现实：掌握工具并不等同于能成事。精通技术未必能驱动组织变革。拥有系统不代表企业运营高效。手握数据也不意味着决策精准。部署了安全产品，更不表示风险已完全可控。在 AI 新时代，企业迫切需求的不再是单一技能点，而是一套能够统筹战略、项目、流程、架构、数据、安全及服务的全方位管理能力。正因如此，PMP、TOGAF、ITIL、CISA、CISSP、CDMP、CBAP、CBPP、ISO/IEC 42001 等管理类认证与
深度解析：筑牢伦理防线，引领 AI 规范前行
眼下，人工智能技术迭代迅猛，正由内容创作、智能互动加速迈向产业赋能、公共服务、知识创造及社会治理等多元领域，深刻重塑着生产生活方式与社会运行逻辑。促进人工智能健康有序发展，既要激发技术创新的蓬勃活力，更要秉持以人为本、智能向善的核心理念，统筹兼顾发展与安全，引导其更好地服务于经济社会进步与人民美好生活。近期发布的《人工智能应用伦理安全指引 1.0》（下称《指引》），紧扣人工智能应用实况，为推动伦理安全治理从原则倡导迈向实践落地提供了关键参照。人工智能应用的伦理安全治理，关乎技术创新走向、产业秩序构建及社会
场外衍生品市场AI应用的风险治理与完善路径
编者按：为深入学习贯彻党的二十届四中全会精神，更好服务“十五五”发展目标和金融强国建设，促进衍生品业务稳步发展，中证报价投教基地推出“风险管理工具系列”专题，聚焦场外衍生品在提供适配长期投资的风险管理工具、服务实体经济发展中的功能作用，展现其在助力经济社会高质量发展中的实践路径与创新成果。作者：广发证券股份有限公司股权衍生品业务部和稽核部课题组本文基于人工智能在场外衍生品领域的应用实践，系统分析了AI技术在模型可靠性、策略趋同、黑箱问题、数据隐私、大模型特有安全风险等方面带来的新挑战，并提出相应的风险应对
工信部启动人工智能伦理审查先导计划 推动治理机制落地
近期，工信部发布了通知，正式拉开人工智能科技伦理审查与服务先导计划的序幕，依托国家人工智能产业创新应用先导区所在省份，率先探索该领域审查与服务的落地模式，旨在完善多方参与、协同高效的治理体系，为人工智能的负责任创新及产业高质量发展提供支撑。目前，伴随人工智能技术的飞速演进，算法偏见、情感成瘾等伦理隐患愈发显著。如何构建有效的科技伦理审查与服务机制，从而有效规避这些风险，已成为亟待攻克的难题。此前，工信部等十部门联合出台了《人工智能科技伦理审查与服务办法（试行）》，明确了审查范围、促进措施、实施主体及监管流
AI幻觉五因剖析与风险治理
摘要：AI大模型真正走向落地时，幻觉问题就变成行业绕不开的核心难题。相关研究对AI幻觉背后的五类关键成因进行了系统梳理：一是统计式生成驱动的补全机制，二是知识边界处出现的专业断层，三是提示环节的设计不足，四是组织层面对速度的过度追求，五是检索与生成环节之间的衔接错位；同时可以看到，幻觉风险在专业边界区域往往会明显上升。研究还强调，实验室里的基准评测与真实世界之间存在较为突出的测量偏差。在公共服务、医疗、网络安全等业务场景中，幻觉产生的错误可能越过界面限制，直接渗入业务流程，从而带来较为严重的影响。研究进一
AI时代国家安全：风险洞察与治理之道
加入群聊，免费获取报告报告主题：赛博研究院_人工智能时代的国家安全风险与治理报告序列号:708399请私信后台报告序列号以获取完整的深度分析报告本报告由上海赛博网络安全产业创新研究院携手上海社会科学院互联网研究中心共同呈献，重点探讨人工智能浪潮下的国家安全挑战及应对策略。报告不包含直接的商业评级意见，而是系统性地剖析了人工智能技术对经济、政治、军事及社会四大维度的潜在安全威胁，内容涉及结构性失业、算法对政治进程的干预、自主武器的伦理困境等关键风险。报告还从风险预警、治理体系的构建、监管能力的提升以及国际协
专访丨中国减灾凸显“以人民为中心”理念
新华社记者石松陈俊侠 联合国秘书长减少灾害风险特别代表卡迈勒·基肖尔日前接受新华社记者独家专访时表示，中国在减灾和提升韧性方面的探索与实践，鲜明体现“以人民为中心”的理念，并在技术突破、治理体系完善以及国际协作等方面形成了自身亮点，为世界减灾行动提供了重要借鉴。 谈到当前全球灾害风险态势时，基肖尔提到，联合国减少灾害风险办公室发布的《2025年全球减少灾害风险评估报告》显示，灾害带来的损失仍在加速上升。若同时衡量直接损失与更广泛的经济影响，全球每年因灾造成的损失总额可达2.3万亿美元。 基肖尔还回顾了20
人工智能安全标准体系加速成型
随着我国“人工智能+”行动持续落地，各类智能体与AI应用不断进入生产和日常生活等多种场景。与此同时，近期频繁曝出的AI安全事故不仅引起社会广泛关注，也推动产业与学界共同寻求突破。近日，全国网络安全标准化技术委员会（以下简称“网安标委”）正式成立“人工智能安全标准工作组”（WG9），这意味着我国人工智能安全标准体系建设进入更系统、更有节奏的推进阶段。AI安全风险高发 攻防对抗升级近年来，全球范围内的人工智能安全事件持续增多。3月底，人工智能企业Anthropic旗下AI编程工具Claude Code发生源代
医疗AI治理共识发布
当前，人工智能正深度嵌入医疗场景，全面改写医疗机构的诊疗服务、管理决策与科研教学链条，但技术持续自我迭代的特征，也与传统医疗器械的静态监管方式形成矛盾，医疗AI规范治理已刻不容缓。共识围绕准入评估、临床应用、患者权益保护、数据治理、风险管控、素养提升六个关键方面，明确分级准入、多学科联合审查、人机协同权责划分、分级知情同意、算法可追溯可解释等核心要求，为医疗AI应用设定“安全、有效、公平、可解释”的合规边界。未来，该共识将持续引导医疗机构规范AI使用与治理，守住医疗质量和安全底线，维护医患双方合法权益，推