标签

伯克利博士论文:AI智能体失配问题的深度剖析

大语言模型(LLMs)如今被广泛用作自主智能体(Autonomous Agents),这些系统能够感知现实世界、与其互动并达成特定目标。不过,智能体追求的目标往往偏离操作者的初衷,这一现象被称为失配(Misalignment)。鉴于智能体在高风险场景中获得了更多自主权,解决这一问题对保障系统安全至关重要。本文从三个互补的维度探讨AI智能体的失配问题:剖析其生成机制、量化其普遍性,以及揭示其在模型内部运作中的表现。首先(第二节),我们通过形式化智能体部署中固有的反馈循环来对失配问题进行建模。研究发现,此类反

2026-04-29 11:19:36  |  13 阅读
思考乐教育:受托人市场购入30万股

思考乐教育:受托人市场购入30万股

思考乐教育(1.74, 0.03, 1.75%)(01769)披露,依据股份奖励计划条款及信托文件,受托人已于2026年4月23日在公开市场购得总计30万股,作为受托持有以供获选参与者之用。 责任编辑:卢昱君 新浪财经声明:本文转载自合作方,旨在传递更多信息,内容仅供参考,不作为投资建议。 郑重声明:1.依据《证券法》,严禁编造、传播虚假或误导性信息以扰乱市场;2.用户在本社区发布的资料仅代表个人观点,与本站无关,不构成任何投资建议,请用户独立判断并承担风险。

2026-04-24 09:55:47  |  11 阅读
华为用户专属五一福利:鸿蒙有礼特别活动开启,签到即得现金红包

华为用户专属五一福利:鸿蒙有礼特别活动开启,签到即得现金红包

IT之家 4 月 23 日消息,在通用版的鸿蒙有礼“薅羊毛”活动结束一段时间后,华为今日再度放水,启动了鸿蒙有礼五一特别版活动,升级至鸿蒙 HarmonyOS 6.0.0.125 版本的手机设备可参与,这意味着老用户可继续“薅羊毛”。 IT之家整理本次平板端的鸿蒙有礼活动内容如下: 需要注意的是,活动期间签到获取的红包,可在 2026 年 5 月 7 日 10:00:00 起,将所获得的红包金额领取至华为支付余额中,可用于支付或提现至银行卡。仅支持通过签到绑定的华为账号进行红包领取。需在 2026 年 5

2026-04-23 22:06:03  |  11 阅读

南沙AI扶持政策开放申报,单项最高300万资助

为推动南沙AI产业实现跨越式发展南沙企业综合服务平台集中推出13项AI专项扶持政策涵盖算力保障、技术研发、机器人创新应用、数据要素供给、应用场景落地等全方位支持单个项目最高资助300万元符合资质的AI企业请尽快提交申请一、扶持机器人技术创新申报要求1.注册地、税务及统计关系均在南沙区,具备健全财务制度、独立法人资格、独立核算,且在南沙区信用信息一体化平台信用评价等级非D级的区内企业。2.申请首试首用补助的,其具身智能机器人不属于量产销售的定型产品。3.申请训练场服务购置补贴的,发票开具日期在2025年内。

2026-04-23 17:25:52  |  33 阅读

最高补150万!南沙区AI软件首版次奖励来了

针对在南沙区注册的人工智能企业实施软件首版次应用专项扶持政策推动企业技术革新、加快商业落地进程。2025年度南沙区“人工智能软件首版次应用支持”专项奖励资金开始发放!符合条件的企业请抓紧申报!根据《广州市南沙区人民政府办公室关于印发广州市南沙区促进人工智能产业高质量发展扶持办法的通知》(穗南府办规〔2025〕10号)申请条件满足下列条件即可申请:1、工商注册、税务及统计关系均在南沙区,财务制度健全、具有独立法人资格且实行独立核算的南沙区人工智能企业,且在南沙区信用信息一体化平台信用评价等级不为D级。2、申

2026-04-23 17:25:33  |  11 阅读
圣贝拉集团:受托人执行股份奖励计划累计购入14.75万股

圣贝拉集团:受托人执行股份奖励计划累计购入14.75万股

圣贝拉集团(02508)发布公告,于2026年4月22日,受托人根据圣贝拉2025年股份奖励计划在市场上购买合共14.75万股股份,平均交易价约为每股股份4.22港元,交易总额约为62.2万港元。于本公告日期,受托人已在市场上购买合共333.35万股股份,交易总额约为1414.6万港元。

2026-04-23 09:00:33  |  16 阅读
百融云-W授出80.3万份股份激励计划

百融云-W授出80.3万份股份激励计划

百融云-W(06608)发布公告称,2026年4月21日,在承授人接受的前提下,公司依据2024年股份激励方案,向集团员工总计授予80.3万份股份奖励(每份奖励可认购一股B类股份),约占授出日已发行B类股份(不含库存股)的0.21%。

2026-04-22 08:09:14  |  13 阅读
思考乐教育:受托人执行股份奖励计划回购21.7万股

思考乐教育:受托人执行股份奖励计划回购21.7万股

思考乐教育(01769)披露,4月20日依据计划条款及信托契约,受托人通过二级市场回购了21.7万股,作为信托资产归获选参与者所有。 编辑:卢昱君 新浪财经声明:本资讯转载自合作方,登载目的为传递更多信息,内容仅供参考,不作为投资建议。 郑重声明:1.依据《证券法》,严禁编造、传播虚假或误导性信息,扰乱证券市场;2.社区用户言论仅代表个人,与本站无关,不构成投资建议,请独立判断并承担风险。

2026-04-21 11:01:09  |  20 阅读
思摩尔国际:受托人根据股份奖励计划购买597.7万股

思摩尔国际:受托人根据股份奖励计划购买597.7万股

思摩尔国际(9.68, -0.42, -4.16%)(06969)发布公告,于2026年4月20日,受托人已就股份奖励计划于市场上购买合共597.7万股股份。

2026-04-21 10:57:45  |  12 阅读
中国燃气拟推行2026年股票激励方案向董事层发放4.62亿股

中国燃气拟推行2026年股票激励方案向董事层发放4.62亿股

中国燃气(7.27, 0.12, 1.68%)(00384)披露,董事会建议推行2026年股票激励方案,旨在嘉奖并激励符合条件的员工为公司扩张与进步所做的贡献,同时招揽优秀人才助力企业实现更高质量发展。 于2026年4月26日,在获得股东特别大会批准通过2026年股票激励方案后,公司依据该方案将合计4.62亿股奖励股份有条件地授予部分董事,分别为刘明辉先生、黄勇先生、朱伟伟先生、刘畅博士及刘明兴博士(均为执行董事)。该等有条件授予董事的股份须经独立股东在股东特别大会上批准后方可生效。

2026-04-20 11:20:59  |  24 阅读
新火集团股价涨超12% 授出66万股股份奖励

新火集团股价涨超12% 授出66万股股份奖励

新火集团(2.59, 0.24, 10.21%)(01611)盘中涨幅逾12%,截至今晨,股价攀升7.66%,最新报价2.53港元,成交额达469.53万港元。 新火集团(01611)宣布,在2026年4月16日,公司依据股份奖励计划向受让人(含部分员工)授予总计66万股(约占当前总股本0.09%)的股份,但须待受让人接受方可生效。 编辑:卢昱君 新浪财经声明:本资讯转载自合作方,登载旨在传递更多信息,内容仅供参考,不构成投资建议。 郑重声明:1.依据《证券法》,严禁编造、传播虚假或误导性信息以扰乱市场;

2026-04-20 10:49:59  |  12 阅读

AI安全前沿:多模态攻防加剧,听觉劫持与奖励黑客引关注

本周Arxiv上的研究进一步拓展了AI安全领域的边界。无论是针对视觉语言网页智能体的并行防护,还是针对音频模型的隐蔽劫持;无论是通过确定性规则拦截工具调用,还是解决奖励优化导致的系统性“作弊”和校准失效,都表明了一个趋势:攻击正从单一维度转向多模态复合策略,防御则从依赖模型自我约束转向建立外部确定性安全层。安全专家应当将“智能体安全”提升至企业基础设施的核心地位。核心趋势分析:防御策略转变:建立模型之外的“确定性安全层”已成为行业共识。无论是引入并行的“守护智能体”(如WebAgentGuard),还是在

2026-04-19 21:14:48  |  21 阅读
圣贝拉集团:受托人按股份奖励计划购入9.2万股

圣贝拉集团:受托人按股份奖励计划购入9.2万股

圣贝拉集团(02508)公布,依据圣贝拉2025年股份奖励计划,受托人于2026年4月16日在公开市场购入共计9.2万股股份,平均成交价约为每股4.57港元,涉及总金额约42万港元。截至本公告披露日,受托人已累计购入277.6万股股份,耗资约1170.8万港元。

2026-04-17 11:17:04  |  12 阅读
思摩尔国际向9名参与者授出93万股奖励股份

思摩尔国际向9名参与者授出93万股奖励股份

思摩尔国际(9.43, 0.01, 0.11%)(06969)发布公告,于2026年4月16日,公司根据经修订股份奖励计划的条款,向9名合资格参与者,授出合共93万股奖励股份,但授出事项须待承授人接纳后,方可作实。 责任编辑:卢昱君 新浪财经声明:此消息系转载自合作媒体,新浪财经登载此文出于传递更多信息之目的,文章内容仅供参考,不构成投资建议。 郑重声明:1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对

2026-04-17 11:10:39  |  34 阅读
新火集团公布股份奖励方案涉及66万股

新火集团公布股份奖励方案涉及66万股

新火集团(2.32, -0.01, -0.43%)(01611)发布公告,于2026年4月16日,本公司依据股份奖励计划向承授人(包括若干雇员参与者)授出涉及合共66万股股份(相当于本公告日期已发行股份总数约0.09%)的股份奖励,惟须待承授人接纳后方可作实。

2026-04-17 11:09:45  |  11 阅读