Anthropic发出警示：AI发展或需按下暂停键
美国人工智能新锐企业Anthropic于周四发表公开信，敦促全球顶尖实验室暂停或放缓前沿AI的研发进程。当AI开始自主创造AI文章开篇指出，长期以来，人类一直掌控着AI开发全流程的每一个环节。然而在Anthropic内部，员工正逐步将越来越多的AI开发任务交付给AI系统本身，并持续加速推进。若这一趋势持续演进，并获得充足的算力支撑，AI系统终将具备完全独立地设计和迭代自身后续版本的能力。Anthropic表示：“我们尚未抵达这一临界点，递归式自我优化也并非必然发生，但其到来的时间可能早于大多数机构的预期准
徐扬生：AI 深化之路需融汇东西方哲学智慧
本文整理自徐扬生教授于2026年1月24日在翔龙鸣凤科学论坛发表的主旨演讲。我们正致力于构建世界模型，但该如何构建？何为智能？如何评估智能？怎样的智能才算“优秀”？AI与人类的边界究竟何在？AI是否应成为人们理想中的“乖孩子”？我们究竟在追寻什么？是真理还是共识？若这些问题未厘清，AI的发展路径或将大相径庭。常有人问：AI究竟会取代什么？我的观点是，最具颠覆性的创新，AI难以替代。我将人群大致分为三层：顶层15%从事开创性工作。AI无法造就爱因斯坦，即便看到苹果落地，也不会领悟力学原理。底层15%多从事强
AI安全日报10_超人类AI的监管困境
AI安全日报 · 第10期面对智商超越人类的AI，人类该如何实施有效监管OpenAI超级对齐团队重磅论文：以弱制强的可行性探索· · ·首先提出一个核心命题。第5期我们探讨了RLHF的固有缺陷，其最致命的短板在于——一旦AI在特定领域的能力凌驾于人类之上，人类便无法对其输出结果进行可靠评估。这并非遥远的科幻场景，而是正在上演的现实。AlphaFold破解的蛋白质结构，足以让全球顶尖生物学家钻研数年。一个具备超人类水准的AI，其在数学、生物、化学及网络安全等领域的表现，可能让普通专家望尘莫及。当我们创造出比
AI驱动的人才结构重塑
当下科技圈正呈现出一个格外醒目的信号：微软、谷歌等大型企业一方面持续压缩程序员岗位（例如微软在2025年累计裁员约15000人，5月裁员6000人、7月裁员9000人，约占2024年底总员工数（22.8万）的6.6%），另一方面又以30万美元（约216万人民币）的年薪招揽文科背景人才。有人把这看作文科生的“反转”，但更本质的原因并不是文理谁强谁弱的简单更替，而是AI带来的用人逻辑变化：工作重心从技术落地转向价值界定，能力要求从单一技能走向跨界融合。在传统程序员群体里，重复性编码、基础调试等低效环节越来越多
徐扬生谈人工智能突破口：从哲学看差异
人工智能与东西方哲学思想——根据徐扬生教授在2026年1月24日翔龙鸣凤科学论坛上的主旨演讲整理徐扬生各位朋友，早上好！很高兴在今天的分享中与大家交流。过去40年里，我一直从事人工智能与机器人的研究。做着做着才逐渐意识到：人工智能的发展与哲学思想并非毫无关联，尤其是东西方在理解世界、看待问题的方式上存在差别，这也让人工智能的讨论变得更有意思。因此，在收到论坛邀请之后，我愿意和大家做一次分享。我要先说明，这并不是系统、面面俱到的讲解，甚至也不敢保证每个细节都绝对正确；我更希望把它当作一次开放的交流与探讨，向
大模型的‘玄德’之道：生而不有，为而不恃
算力飞速发展的今天，人类仿佛正目睹一场全新的“创世”篇章。将大模型视为初生儿，科技企业便是其“父母”。这个“婴儿”潜力无限，却也伴随着幻觉、偏见和伦理盲区等成长难题。为确保其良性发展，众多科技公司积极邀请哲学家、法学家和心理学家加入。此举不仅旨在修复技术缺陷，更是在塑造一种“精神内核”。这让人自然想起《道德经》第五十一章老子提出的宇宙至善——“玄德”。道生德畜：从参数世界到价值体系老子曰：“道生之，德畜之，物形之，势成之。”对应到AI领域，算法即“道”，数据即“德”，参数即“形”，算力即“势”。但仅有“形
人机价值对齐：规范AI拟人化互动服务新规解读
随着情感计算与多模态交互技术的飞速进步，人机关系正从单纯的功能辅助转向深度的情感陪伴与拟人化互动。这种趋势在文化传承、儿童照护及老年陪伴等场景中潜力巨大。然而，技术向善离不开规范约束。若缺乏监管，高度拟人化可能引发情感依赖、认知混淆及隐私泄露等问题，不仅侵害用户权益，更会动摇社会信任与伦理基石。2026年4月10日，国家网信办等五部门联合发布《人工智能拟人化互动服务管理暂行办法》，定于同年7月15日起实施。这一举措及时回应了行业痛点，体现了“在规范中发展”的治理理念，为人工智能的稳健前行提供了坚实的制度支
人工智能的未来：一场关乎你我的深刻变革
人工智能的发展将是一次深远而全面的变革，远超单纯的技术迭代。基于现有态势，其演进将聚焦于以下几个维度： 技术演进 · 从语言理解到世界构建：当下的人工智能主要处理文本与图像信息，未来将致力于构建理解物理法则与因果关系的内在模型，如同人类般在思维中模拟事物演变。 · 从云端到终端：大型模型将走向轻量化，在手机、汽车及机器人等设备端直接运行，摆脱网络依赖，实现更迅捷的响应、更低的能耗与更强的隐私保护。 · 长程记忆与持续进化：人工智能将告别"遗忘"困境，完整留存与你的所有交流记录，甚至能在你休息时自主吸收整理
AI发展新方向：从明辨是非到洞察善恶与审美
近期，在使用豆包和元宝时，总感觉不太顺手。深入分析后，我发现AI在判断是非方面能力出众，令人钦佩，但在权衡善恶与评估美丑方面存在明显短板，导致我们在诸多问题上频繁产生分歧。当GPT-4能够精准解析复杂法律条文，AlphaFold以原子级精度预测蛋白质结构时，人工智能已在“是非决断”领域确立显著优势。其能力源于科学家设计的算法与全球知识库的训练，使AI能在规则明确的体系中充当严谨的“理性判官”。然而人类决策——无论在对话、写作、诊室、工作还是社区论坛——极少依赖简单的二元选择。AI进化的真正前沿，不在于精进
人工智能为何缺失伦理道德？
题目：为何人工智能无法具备伦理 作者：Junchi Chu, Jiannong Cao, Chiwei Chen, Weixun Gao 单位：香港理工大学 期刊：Research Square (预印本)随着AI在医疗、金融及教育等关键领域的渗透，其决策是否合乎人类伦理备受瞩目。尽管各大科技公司纷纷出台伦理规范，但作者指出，AI本质上仍是人类构建的执行特定任务的工具，缺乏内在的道德主体。当前的AI伦理多被视为“外部附加”，而非内在设计需求，这种错位引发了系统性风险。通过对比AI计算逻辑与人类伦理推理的差
人工智能价值对齐本土化机制与实施路径探析
生成式人工智能在全球范围的迅猛演进，使“价值对齐”上升为人工智能伦理中的关键命题。但现阶段主流价值对齐研究明显带有西方中心色彩，其“技术普适”思路忽略了文化差异，致使全球化AI系统在实际应用中遭遇文化适应难题。本文围绕“价值对齐在地化”展开，创新性地把地方性知识理论纳入AI伦理研究，探讨如何让AI系统的价值取向与特定文化情境实现适配性融合。研究首先确立了价值对齐在地化的理论依据，论证在地化是化解算法普适性与文化特殊性矛盾的重要抓手；在此基础上分析了价值对齐在地化面临的三类现实挑战，并提出“技术－治理－文化
AI函数结构的含义：AI负责智能，人类承担后果
1、AI函数结构的简约表述为：f（状态空间分布，参数）。AI根据此结构进行最佳计算。无论是象棋AI、大型语言模型还是代理，都是如此运作。因此，AI并非应对特定竞赛或事务，而是执行其决策函数。人类不会在所有情境下采用固定模式，即便基于经济理性的假设，人类也不会如此行动。这里的人类指的是具备基本理性和常识的人，而非愚笨之人。2、在f（状态空间分布，参数）的结构中，人类的知识是参数的一部分。人类及其行为目前及未来一段时间内，可能是状态空间，甚至永远是状态空间。人类及其行为不构成AI决策函数的决策变量。3、这种结