标签

信通院启动云端AI安全评估体系

大模型技术获得规模化应用后,以大模型为基础的各类自主智能体正快速进入政务、金融、工业等多个领域,人工智能正从内容生成向具备自主规划、工具调用和闭环执行能力的智能体时代演进。大模型本身存在提示注入、模型投毒、数据泄露、内容生成违规等内在安全挑战,而智能体依靠自主决策、跨工具联动、长期记忆存储的特点,进一步产生越权调用、记忆污染、多智能体协同失控、恶意指令劫持等新型安全威胁,风险从文本内容安全扩展到实体操作层面,影响链条延伸、风险边界扩大。在此形势下,中国信通院主导制定云上人工智能安全系列标准,并按照标准推进

2026-06-12 13:21:30  |  16 阅读

开源 AI 登顶金融榜:分析师危矣?

Kimi K2.6 问鼎金融 Agent 开源榜首,其意义远超想象本周,一则消息同时在金融界与 AI 领域引发轰动。月之暗面正式官宣:其开源模型 Kimi K2.6,在 Finance Agent Benchmark V2 评测中,凭借开源权重模型第一的成绩拔得头筹——这是当下全球最具权威的 AI 金融智能体评分榜单之一,由独立测评机构 Vals AI 运营。这一结果预示着什么?简言之:在模拟金融分析师工作的考核中,一款免费开源的中国模型,击败了所有同类竞品。然而,更值得深入探讨的是现象背后的核心议题:A

2026-05-14 15:53:16  |  34 阅读