中美携手筑牢AI安全防线：合作势在必行
中美携手筑牢AI安全防线：合作势在必行Christina Knight哈佛大学智能设计和工商管理硕士候选人。曾领导Scale AI的安全和政策研究实验室，并担任美国人工智能标准和创新中心的高级政策顾问Scott Singer卡内基国际和平基金会技术和国际事务项目研究员Foreign AffairsApril 7, 2026导读随着人工智能深度融入中美经济与战略博弈，该技术也带来了无国界的极端风险。任何个人或组织都可能利用AI模型或组合模型设计危险病原体，攻击电网或医院网络，或制造侵蚀信任的深度伪造内容。因
本周金融AI与全球风险洞察(0531-0604)
一、本周AI欺诈风险事件1. AI深度伪造冒充企业高管实施社工诈骗风险持续升级事件名称：AI深度伪造CEO视频会议诈骗模式再被安全机构重点预警事件综述： 6月初发布的最新欺诈趋势分析显示，生成式AI正推动深度伪造（Deepfake）、语音克隆及合成身份欺诈快速扩散。犯罪分子利用AI生成高管视频、语音及定制化钓鱼内容，大幅提高社工诈骗成功率。金融机构与保险公司被列为重点受攻击行业，相关风险已从“身份伪造”升级为“信任伪造”。 (FF News | Fintech Finance)from:https://f
人工智能安全：重塑信任未来的关键路径
导语：近期，美国外交关系协会（CFR）发布《保障智能安全：人工智能安全何以定义信任的未来》报告，强调AI安全是各国巩固技术领导力的核心，剖析了模型漏洞、治理缺失及攻防失衡风险，主张以信任驱动AI可持续应用。一、脆弱的基石：守护AI供应链安全支撑AI的代码与模型架构存在隐患。数据显示，近45%的AI生成代码潜藏缺陷，将企业收益转化为法律风险。公共库中泄露密钥超2.5万个，同比增长64%，27%仍具活性。仅需250份恶意文档，便能在大模型中植入后门。这动摇了模型完整性信心，数据溯源受损威胁国家安全。这些底层漏
马斯克人工智能公司要求集体诉讼原告公开身份应对深度伪造争议
根据法庭档案，埃隆·马斯克创立的人工智能企业xAI已向法院递交申请，寻求让四名原告在针对Grok深度伪造成人图像的集体诉讼中使用真实姓名进行诉讼。 原告方担忧，公开身份可能导致骚扰升级，并加重其在书面陈述中提及的个人损害后果。 法庭文件表明，原告目前以“南卡罗来纳州无名氏”、“南卡罗来纳州罗伊”、“新泽西州无名氏”和“俄亥俄州无名氏”名义登记，原告同意向xAI透露真实身份，但希望在公开法律文书中维持匿名。 xAI的法律团队主张，民事诉讼通常要求明确标识各方当事人，公众有权知晓哪些人在对公司提起诉讼。他们还
五月AI产业三大看点：价格战、上市潮、监管收紧
中国多款大模型价格下探性能与成本比值跃居世界前列全球多国加速AI治理框架构建为技术发展设定边界……今年5月众多媒体将AI产业全球动态归纳为降价、上市、监管三大主题高性价比成为中国模型竞争新优势5月中国AI企业深度求索（DeepSeek）发布DeepSeek V4 Pro模型应用程序编程接口（API）实现永久下调75%每百万词元输入费用仅0.025元输出收费6元刷新全球主流大模型价格底线百度公司推出全新旗舰级大模型"文心5.1"该模型预训练开销仅为行业同等规模模型的约6%在权威大模型评测平台"竞技场（Are
AI 智能体降临：门锁学会思考，安保无需守门
在人工智能席卷全球的当下，一场围绕“家门”的智能化变革正无声上演。伴随 AI 从“被动应答”向“主动感知、独立决策、自主执行”的深度演进，AI 智能体的出现，正促使智能锁从单纯的开锁工具，蜕变为安装在门上的“智慧中枢”。当守护家庭安全的首道关卡具备了“主动思维”，传统意义上的保安与守卫者，是否真的面临“失业”危机？本文将深入剖析这场由 AI 智能体引领的入户安全新革命。往昔的智能锁，多需用户主动按压指纹或刷脸方可开启，即便技术再尖端，也难逃“验证身份、执行指令”的机械轮回。然而，引入 AI 智能体后，局面
支撑人工智能安全发展的三大路径
随着人工智能重塑社会形态，传统的安全防护与道德伦理框架正面临着严峻的考验。我们要如何确保人工智能始终向善？本文将为您呈现3个更安全的人工智能新愿景。在第一篇文章中，安全专家布鲁斯·施奈尔（Bruce Schneier）与数据科学家内森·E.桑德斯（Nathan E. Sanders）揭示了为何人工智能“离奇”的错误模式要求我们突破根据人类错误构建的传统安防体系，建立一套创新性的安全措施。网络文化与技术权威人士达留什·杰米尼亚克（Dariusz Jemielniak）指出，由艾萨克·阿西莫夫提出的经典机器人
AI 换脸声纹欺诈频发，熟人套路需警惕
亲爱的小海狮们你们是否曾思考屏幕中那张熟稔的面孔听筒里那道亲切的嗓音或许并非本人真容近来AI 换脸与语音模拟诈骗呈高发态势已非新闻中的遥远传闻而是真切发生在你我身边的新型陷阱不法分子仅需一张照片、几秒语音片段即可高度还原你的挚友、同窗、师长乃至至亲借由视频、语音通话实施借款、求助、转账类诈骗01 当前骗术究竟有多逼真往昔诈骗，多赖文字信息与陌生号码，极易引人生疑。然而现今的 AI 骗局，真实程度令人难辨：• 高清 AI 换脸视频：五官神态、表情细节高度吻合，肉眼几难察觉破绽。• AI 复刻声纹：语调语速、
第29章：大语言模型安全威胁与防护策略
本章法律提醒本章涉及的大语言模型提示注入、越狱攻击、后门植入、模型逆向等技术，仅限于学习研究目的和在你自己拥有合法授权的系统上进行实验。利用这些技术对商业AI服务进行攻击、生成恶意代码、创建深度伪造内容等行为，可能构成违法犯罪。AI安全研究应遵循负责任披露原则，发现漏洞应及时向厂商报告。29.1 2026年AI安全新态势二十九点一点一 大语言模型的全面渗透截至2026年，大语言模型已经从“新兴技术”转变为社会运行的基础支撑。各行各业将LLM集成到客服系统、代码助手、数据分析、文档生成、决策辅助等各个场景。
AI"变脸"骗术大揭秘
这幅漫画形象展现了AI"换脸"诈骗的作案手法，属于当前频发的新型网络欺诈手段之一。1.隐私泄露：犯罪分子借助社交媒体、公开影像等途径，收集被害人亲友或同事的面部特征、声纹数据。2.智能伪造：运用深度学习算法，将获取的人脸信息动态嵌入视频通话画面，同步合成相似声音，达到冒充熟人的逼真效果。3.诱骗转账：以视频连线为遮掩，以借款理财、急难求助等借口，诱使被害人汇款转账。在此特别提醒各位加强防范：⚠️ 牢记关键要点：眼见未必为实，汇款前务必通过其他渠道确认身份，切勿被犯罪分子的"以假乱真"所蒙蔽。针对此类欺诈手
西班牙正式立法规范人工智能:八项禁令与高额罚款机制
华新报-欧浪新闻5月26日（马德里 薛校书）为确保人工智能IA的应用"遵守道德规范、体现包容精神并造福社会"，西班牙政府今日正式批准了新版《人工智能规范使用与管理法》草案。该草案清晰划定了禁止行为红线、界定了"高风险"系统范畴，并配套了最高数千万欧元级别的惩处体系。草案要求，所有由人工智能系统产出的内容均须标注来源；利用该技术制作并传播的任何图像，必须嵌入含有"IA"（人工智能）标识的"数字签名"。图：西班牙政府发言人埃尔玛·赛斯女士与数字化转型和公共职能部长奥斯卡·洛佩斯在新闻发布会上。这份今日获部长会
湾区华人注意!AI 换声诈骗肆虐，母亲惨失五千美元
旧金山湾区一位女士因遭遇人工智能语音诈骗，损失数千美元。警方指出，此类模仿亲友声音实施欺诈的案件正日趋高发。Deborah Del Mastro 透露，事发于 5 月某日清晨，她接到了一个陌生来电。Deborah 回忆道：“对方先问：‘你是谁？’我反问道：‘你是谁？’紧接着他说：‘我是你必须对话的人。’”随后，对方谎称她 37 岁的女儿 Sarah 因目击了不该看的事，被墨西哥贩毒集团劫持。对方播放的录音在 Deborah 听来是“铁证如山”。她说：“那是我女儿的声音，她当时极度恐慌，哭喊着：‘妈妈，我爱
全球首部AI综合法规落地,深度伪造应用遭全面封禁
2024年，欧盟正式通过《人工智能法案》（EU AI Act），这标志着全球首部全面的人工智能监管立法诞生。而在2026年5月的最新修订中，欧盟进一步强化监管力度，首次以法律形式明确禁止"脱衣换脸"等深度伪造AI应用。这一动作意味着全球AI治理迈入新阶段，同时也为我国AI产业发展带来了新的挑战与机遇。欧盟《人工智能法案》采取风险分级管理模式，将AI系统划分为四个风险层级：最新修订中，以下应用被列入"不可接受风险"清单，将在欧盟市场遭到全面封禁：实时远程生物识别系统（特定例外
数字时代真实与虚假的边界挑战
以互联网、人工智能和数字媒体为代表的技术迅猛发展，在为人类社会带来诸多便利——包括提升生产效率、丰富文娱生活、促进全球互联互通的同时，也在持续消解信息真伪的原有边界，具体表现为虚假新闻的广泛传播、深度伪造技术的滥用以及算法推荐导致的信息茧房效应。这一日益凸显的问题不仅加剧了公众对信息可信度的质疑，更可能侵蚀社会信任与公共讨论的根基，因此值得我们深入探讨、深刻反思，以寻求有效的应对策略与伦理规范。一、真假之辨当前，AI合成技术如生成对抗网络可轻松制作仿真视频，深度伪造算法也能逼真模仿个人音频，信息在社交媒体
人工智能科技资讯 · 2026年5月17日
🤖 人工智能与基础模型• OpenAI发布ChatGPT个人财务助手：实现银行账户直接连接，实时追踪投资状况、记录消费明细、管理订阅服务，人工智能应用领域从对话交互扩展至资产管理• RuView开源WiFi感知技术实现突破：将常规WiFi信号转换为环境感知能力，提供生命体征检测和人员存在识别，确保无视觉隐私风险• Kronos金融领域基础模型：专门针对金融市场语言进行优化，解决通用模型在金融数据处理方面的局限• Roboflow发布Supervision工具库：构建可复用的计算机视觉工具集，简化视觉相关开