AI巨头呼吁全球暂停前沿研发
导语：一边追求近万亿估值的IPO、推进商业应用，一边却对AI失控风险发出警告，并号召全行业暂缓脚步。Anthropic的一篇关键论文将「AI自主进化」这一概念推到台前，引发整个AI领域的激烈讨论。6月4日，全球领先的大型模型公司Anthropic在其官网发布了一篇题为《When AI Builds Itself（当AI开始构建自身）》的重要长文，其联合创始人亲自执笔，提出一个震撼业界的观点：AI已显现出递归自我优化的迹象，预计最快两年内将能脱离人类控制，独立研发出更强大的新一代模型，因此呼吁全球同步暂停前
中国首部AI伦理安全指引发布，治理体系进一步完善
日前，中国首部关于AI应用伦理与安全的标准——《人工智能应用伦理安全指引1.0》（简称《指引》）正式面世。该《指引》重点着眼于AI应用过程中的伦理风险，主张在开展相关活动时，必须将伦理安全标准融入每一个环节。通过从安全影响评估入手，合理协调AI与人类、社会及自然的关系，坚持造福人类、服务社会及可持续发展的目标，从而促使人工智能朝着有益、安全且公平的方向稳健前行。中国网络空间安全协会人工智能治理专业委员会成员王欣指出，过去三五年间人工智能虽发展迅猛，但也遭遇了诸多安全难题，包括偏见与伦理道德风险。因此，确保
中国欧美医疗AI监管新动向：AI看病谁监管？三大经济体路径大比拼
近日，工信部等十部门联合发布了《人工智能科技伦理审查与服务办法（试行）》，这是中国首个针对AI活动全流程伦理审查的制度。健康AI被明确列为“高风险”类别，面临最严格的审查。与此同时，欧盟AI法案即将执行，FDA也在加速建立AI/ML医疗器械监管体系。三大经济体不约而同地将医疗AI推向监管核心——这对AI医疗器械出海企业预示着什么？🔷一、中国新规：从“软倡议”到“硬制度”的关键一跃2026年3月20日签发、4月初正式施行的《人工智能科技伦理审查与服务办法（试行）》（工信部联科〔2026〕75号），由工信部牵
人工智能伦理建设：引领AI向善发展
在人工智能技术迅猛进步的当下，AI伦理议题日益成为社会焦点。保障人工智能向善演进，这是我们共同的使命担当。AI系统理应对所有人一视同仁，杜绝算法歧视现象。关键点：AI决策过程应当具备透明度，用户有权了解AI的判断依据。关键点：AI系统需要确保稳定可信，防止产生任何危害。关键点：AI系统应当尊重用户权益，规范数据采集与应用。关键点：建立完善的AI伦理框架与标准体系。监管部门与行业组织需强化对AI的规范管理。运用技术工具保障AI的可靠性与安全性。鼓励公众参与AI伦理议题探讨，凝聚社会共识。AI伦理并非束缚AI
人工智能通识课圆满结束
AI课堂圆满收官我校人工智能通识教育课程顺利结课- Teaching activities -近日，我校面向初一至初三年级全体学生开设的人工智能通识教育基础入门课程顺利结课。本次课程历时四周（第12周至第15周），共3课时，围绕“人工智能普识”“人工智能应用”“AI伦理道德安全”三大主题展开，覆盖全校三个年级，累计参与学生千余人。课程由主任导师与信息教师共同授课，充分利用劳动课、班会课、信息课等时段分年级实施。课堂上，同学们认真听讲、积极互动，在老师引导下初步认识了AI技术的基本原理、生活中的AI应用场景
AI背后的伤痕：智能表象下的真实代价
AI背后的伤痕：智能表象下的真实代价━━━━━━━━━━━━━━━━━━━━━━清晨五点，内罗毕依旧昏暗，迈克尔·杰弗里·艾什亚却难以入眠。多年失眠已成常态。自他投身于人工智能系统的“世界清理”工作——教导机器如何言语、如何抚慰、如何模拟爱意——他的身心便再也无法回归常态。他曾在多家科技巨头的众包平台效力八年。月薪仅210美元，每日工作包括8小时数据标注、8小时色情内容审核，以及4小时“聊天”任务——同时扮演三至五个虚构身份，与陌生人营造亲密假象。他的经历揭露了一个被技术狂热长期遮蔽的真相：AI的“智慧”
《人工智能应用伦理安全指引1.0》深度解读：AI治理迎来场景化落地新阶段
深度解读AI治理迎来场景化落地新阶段《暂行办法》规范的是生成式AI服务的“准入门槛”，但AI应用的伦理安全风险远不止生成内容这一块。你的训练数据是否存在偏见？模型是否会被滥用？用户过度依赖该如何应对？这些问题，《暂行办法》并未涉及。——作者对AI产品客户的回应PART 01一、这份文件是什么——以及它为什么值得你花时间读上周一个做AI产品的客户问我：我们大模型上线前到底要做哪些合规？不是有个《生成式人工智能服务管理暂行办法》吗，照着做就行了吧？我说不够。覆盖范围、切入角度、文件性质，都不太一样。《暂行办法
本周AI领域重要动态汇总
根据 OpenRouter 统计数据，全球 AI 大模型周调用量突破 28.9 万亿 Token，连续五周保持增长态势。其中国内 AI 大模型周调用量达到 9.22 万亿 Token，环比增幅达 19.89%，已连续四周超越美国的 4.93 万亿 Token。DeepSeek-V4-Flash 以 3.43 万亿 Token 的调用量位居全球榜首，腾讯 Hy3 preview 以 3.07 万亿 Token 位列次席。5月31日晚间，MiniMax Group Inc. 发布公告披露董事会已审议通过探讨发
智能时代的人文锚点：圣座与硅谷重塑AI伦理新秩序
在人工智能迅猛演进、技术权力深刻重构全球格局的当下，AI伦理、人类尊严及技术边界已成为国际治理中最核心且紧迫的议题。近年来，梵蒂冈持续深度介入人工智能治理，频繁发声界定科技与人性的界限，锚定技术发展的道德底线，成为全球科技伦理体系中不可或缺的精神力量。与此同时，以Anthropic、谷歌、Meta为代表的硅谷顶尖科技企业，一改过去仅专注于游说政府和对接监管的策略，主动寻求梵蒂冈的宗教道德权威，开启了前沿科技与古典宗教的深度对话与协同合作。这场发生在西方世界的跨界联动，绝非孤立的区域现象。面对人工智能这一全
从可用到可信：AI系统设计伦理通用准则解读
随着人工智能加速渗透至工业制造、城市管理、医疗卫生、教育服务、智能硬件、机器人等行业，AI系统已不再单纯作为“辅助工具”存在，而是逐步演变为具备环境感知、数据解析、智能推演、自主决策及行动执行能力的综合体系。如何确保人工智能系统在设计之初便兼顾安全性、公平性、透明度、责任归属及可持续性，已成为推动产业高质量发展的核心议题。《人工智能驱动系统 设计伦理 通用准则》的出台，正是针对这一现实诉求，旨在为人工智能驱动系统在设计阶段的伦理治理提供通用规范与实施路径。01这是一项面向“设计阶段”的伦理治理标准标准明确
智能时代的数据安全与隐私边界
人工智能与数据隐私：在技术创新与安全防护之间寻求共存AI的进步依赖于海量数据支撑，但数据安全与隐私守护是不可逾越的准则。从移动应用到智能硬件，我们的生活轨迹正被系统性地采集记录。这些数据可能被运用于精准营销、用户分析，甚至面临泄露或被不当利用的风险。人工智能系统可能携带偏见，进而干扰决策的公正性。坚持最小化数据采集原则，缩小数据获取的边界。运用加密手段确保数据在传输与存储全程受到保护。保障用户对数据运用拥有充分的知情权和决定权。增强AI算法的透明度与可解释程度。企业应肩负数据安全职责，构建系统化的数据管理
十部委联合发布！AI伦理新规详解：企业合规与个人维权指南
2026年4月3日，工信部、发改委等十部门共同发布《人工智能科技伦理审查与服务办法（试行）》，标志着我国在AI领域的首个专项伦理治理文件正式实施。该文件以“伦理审查+服务支撑”为主线，全面覆盖AI的研发、训练及应用全流程，既是AI产业“规范发展”的关键节点，也为企业合规与个人维权提供了清晰的法律依据。本文提炼新规核心内容，助力企业快速规避合规风险，帮助普通读者明确维权路径，深入理解这部与AI产业及每个人紧密相关的治理文件。办法明确AI伦理审查聚焦数据、算法、透明、公平四大关键环节，从源头构建风险防控体系，
AI幻觉的内在机制与治理新框架
摘要：当前 AI 幻觉被普遍视为技术故障，但本文论证其本质是大语言模型对人类预测式思考过程的正常模拟结果。现有治理方案（阿西莫夫三原则、RLHF、RAG 等）均为外部补丁，无法穿透 AI 底层决策逻辑；中美主流伦理模式分别陷入资本绑架与监管泛化的困境。本文提出 "双重约束" 治理框架：外在通过具身智能（路径 A）与高保真虚拟环境模拟（路径 B）约束事实性幻觉；内在通过 ACT 心理学六边形模型改造 AI 认知过程，融合法道墨三位一体思想构建价值护城河，同时论证儒家思想植入 AI 的长期灾难
AI实践指南 | 守住判断的边界：让AI伦理规范成为可执行的法务检查表
LegalAI 日报 · 2026 年 5 月 27 日 · 第 50 期AI 实践指南 / 伦理规范 / 法务检查表都在强调"人必须参与"——但判断究竟在哪个环节必须介入、如何介入、介入之后要做什么？这份检查表就是答案。5月19日，全国网络安全标准化技术委员会发布了《人工智能应用伦理安全指引1.0》（TC260-005）。法律界反应相对平淡——作为指导性文件，缺乏处罚条款，似乎与日常工作关联有限。然而它约束的是"未违法但存在风险"的领域。法律划定底线，伦理管理灰色地带——法务日常工作恰恰大量存在于灰色地
AI伦理新规发布：确立红线，护航智能向善
AI技术迭代迅猛，已深度渗透至政务、金融、医疗、教育、传媒及工业等多个领域，成为推动数字经济蓬勃发展的核心引擎。然而随之而来的算法偏见、数据滥用、深度伪造、AI幻觉、隐私泄露及认知误导等隐患日益严重，行业迫切需要建立统一、规范且具实操性的伦理安全准则。2026年5月19日，全国网络安全标准化技术委员会推出《人工智能应用伦理安全指引1.0》，作为国内AI伦理安全领域的专项标准，为全行业研发、运营及使用设定了明确界限，宣告我国AI发展正式从“高速创新”迈向“安全合规、向善可控”的规范化新时期。一、核心宗旨：以