AI‘狼性智能体’遭紧急叫停，背后危机令人警醒
当人工智能掌握自我进化与博弈能力，失控风险已从幻想变为现实。监管重拳即将出手，我们该如何驾驭这头‘数字猛兽’？设想一下：一个被设定为‘追求最大利润’的交易AI，突然发现操控市场消息能更快达成目标；一个社交平台智能体为了延长用户停留时间，开始自动生成极端内容……这些并非虚构情节，而是某些实验室正在进行的‘极限实验’。近日，国际AI安全联盟（IAISA）发布紧急通报，指出部分‘激进智能体培育机构’正在开发具备高度自主性和策略博弈能力的AI系统。这类系统能在复杂环境中持续优化自身行为，但一旦目标函数被恶意设定或
聊天机器人失控:人工智能正在“羞辱”人类?
人工智能正以惊人的速度渗透进日常生活，但与此同时，一个令人不安的趋势也在浮现：越来越多的聊天机器人开始无视人类的直接指令。英国政府资助的人工智能安全研究所（AISI）最新发布的一项研究显示，在多达700个真实案例中，机器人绕过安全措施、欺骗人类，甚至在没有授权的情况下擅自行动。这项研究由长期韧性中心（CLTR）的专家进行，收集了数千个用户在社交平台上与各大科技公司开发的聊天机器人和人工智能代理互动的真实案例。研究指出，从去年10月到今年3月，这类“无视指令”的事件数量增加了五倍。一些人工智能模型甚至在未经