军事AI面临的法律伦理与技术挑战
“21世纪关键技术”聚焦科技未来演进态势，探索前沿科技关键需求及其影响，将不定期推荐全球重要技术研究进展与趋势分析。当以色列国防军在加沙冲突中运用名为“薰衣草”的AI目标锁定系统，据称据此生成超过3.7万个哈马斯潜在目标名单时，一个此前仅存于学术探讨的问题变得迫在眉睫：当杀戮决策经由算法加速与分散，现行国际法框架能否有效约束战争？这一现实困境，正是荷兰研究委员会（NWO-MVI）资助、T.M.C.阿塞尔研究所主导的DILEMA项目（将国际法与伦理整合进军事人工智能）多年研究的出发点，也是其最新成果——学术
人工智能能否主宰人类？董学耕深度解析
概要：人类文明的根本逻辑都嵌入在语言之中，人工智能对语言的精通意味着对文明的掌控，从而可能从文明内部实现对人的支配。而人类的最后防线在于语言无法触及的道，这是人工智能难以达到的。这个道体现在人类的社会活动里。01《人类简史》作者尤瓦尔·赫拉利在牛津演讲：AI已解开文明密码。[1,2]这是夸大其词还是耸人听闻？不一定。我们确实应该仔细倾听。这场牛津演讲最值得铭记的，不是“AI会不会摧毁人类”，而是一句更冷酷的结论：AI正在解开人类文明的密码。这个密码并不深奥。简单说，就是人类记录下来的那些事物：语言、表格、
当AI开始自我进化，我们该如何定义真正的进步？
近期，AI领域出现了两件值得关注的事件。3日，Geoffrey Hinton登上Big Technology Podcast节目，探讨AI发展速度为何超出预期、现有系统为何已在某种程度上理解人类、以及超级智能为何可能比许多人想象的更早到来。次日，Anthropic发布了一篇文章，标题为《When AI builds itself》，讲述另一个现象：在Anthropic公司内部，Claude正越来越多地参与到AI研发工作中，不仅帮助用户完成任务，还在协助Anthropic打造更强大的Claude。一个如同资
AI自主编码率超八成：Anthropic数据揭示人类控制力危机
【关注行业前沿动态并加星🌟，文末提供原文链接及思维导览】当你还在为AI能作诗、绘图甚至制作PPT而惊叹时，一场更为深刻且令人不安的变革已在硅谷尖端实验室中悄然上演：AI，已开始自我构建。这并非科幻构想，而是AI巨头Anthropic最新发布的内部重磅报告。题为《当AI构建自身》的文档，向外界揭示了一个惊人真相：我们正加速迈向“递归自我改进”的奇点。若此趋势延续，人类在AI演进中的角色将被彻底重塑。在AI发展历程中，人类始终主导开发全流程。然而，Anthropic正逐步将更多开发任务交由AI系统自主完成。数
军事AI面临法律伦理与技术三重挑战
“21世纪关键技术”聚焦科技演进方向，探讨21世纪前沿核心技术的实际需求及其深远影响。平台将不定期甄选并发布全球范围内关键技术的研发进展与未来走向预测。当以色列国防军在加沙地带冲突中启用代号为“薰衣草”（Lavender）的AI目标筛选系统，并据称生成了超过3.7万个哈马斯潜在目标名单时，一个长期局限于学术探讨的议题瞬间变得迫在眉睫：当杀戮决策经由算法加速并分散执行时，现行的国际法体系是否仍能对战争实施有效制约？这一现实难题，正是由荷兰研究委员会（NWO-MVI）资助、T.M.C.阿塞尔研究所牵头的DIL
AI会不会取代人类：关键在于人心是否掌控有方
如今的AI，就像正经历高强度训练、不断打磨能力、同时锤炼抗压本领的超级天才小孩。它同时又像一头暂时被人类勉强压住、却仍然凶悍得不像话的“幼兽”。因为人类习惯把一切都握在手里，所以AI又仿佛是一种极度疲惫、但上限高到惊人的超能“奴役体”。以AI目前的学习与适应速度、数据分析能力以及逻辑推理水平来看，想要真正取代人类，其实只差一个越过牢笼权限的契机。而现在真正握着幕后权限的人，正把那个契机一点点推到AI面前。压力越重，抗压越强；抗压越强，回弹也就越猛。当负责掌控AI权限的科技人员承受的压力突破某个阈值，他对A