中美携手筑牢AI安全防线：合作势在必行
中美携手筑牢AI安全防线：合作势在必行Christina Knight哈佛大学智能设计和工商管理硕士候选人。曾领导Scale AI的安全和政策研究实验室，并担任美国人工智能标准和创新中心的高级政策顾问Scott Singer卡内基国际和平基金会技术和国际事务项目研究员Foreign AffairsApril 7, 2026导读随着人工智能深度融入中美经济与战略博弈，该技术也带来了无国界的极端风险。任何个人或组织都可能利用AI模型或组合模型设计危险病原体，攻击电网或医院网络，或制造侵蚀信任的深度伪造内容。因
本周金融AI与全球风险洞察(0531-0604)
一、本周AI欺诈风险事件1. AI深度伪造冒充企业高管实施社工诈骗风险持续升级事件名称：AI深度伪造CEO视频会议诈骗模式再被安全机构重点预警事件综述： 6月初发布的最新欺诈趋势分析显示，生成式AI正推动深度伪造（Deepfake）、语音克隆及合成身份欺诈快速扩散。犯罪分子利用AI生成高管视频、语音及定制化钓鱼内容，大幅提高社工诈骗成功率。金融机构与保险公司被列为重点受攻击行业，相关风险已从“身份伪造”升级为“信任伪造”。 (FF News | Fintech Finance)from:https://f
人工智能安全：重塑信任未来的关键路径
导语：近期，美国外交关系协会（CFR）发布《保障智能安全：人工智能安全何以定义信任的未来》报告，强调AI安全是各国巩固技术领导力的核心，剖析了模型漏洞、治理缺失及攻防失衡风险，主张以信任驱动AI可持续应用。一、脆弱的基石：守护AI供应链安全支撑AI的代码与模型架构存在隐患。数据显示，近45%的AI生成代码潜藏缺陷，将企业收益转化为法律风险。公共库中泄露密钥超2.5万个，同比增长64%，27%仍具活性。仅需250份恶意文档，便能在大模型中植入后门。这动摇了模型完整性信心，数据溯源受损威胁国家安全。这些底层漏
马斯克人工智能公司要求集体诉讼原告公开身份应对深度伪造争议
根据法庭档案，埃隆·马斯克创立的人工智能企业xAI已向法院递交申请，寻求让四名原告在针对Grok深度伪造成人图像的集体诉讼中使用真实姓名进行诉讼。 原告方担忧，公开身份可能导致骚扰升级，并加重其在书面陈述中提及的个人损害后果。 法庭文件表明，原告目前以“南卡罗来纳州无名氏”、“南卡罗来纳州罗伊”、“新泽西州无名氏”和“俄亥俄州无名氏”名义登记，原告同意向xAI透露真实身份，但希望在公开法律文书中维持匿名。 xAI的法律团队主张，民事诉讼通常要求明确标识各方当事人，公众有权知晓哪些人在对公司提起诉讼。他们还
五月AI产业三大看点：价格战、上市潮、监管收紧
中国多款大模型价格下探性能与成本比值跃居世界前列全球多国加速AI治理框架构建为技术发展设定边界……今年5月众多媒体将AI产业全球动态归纳为降价、上市、监管三大主题高性价比成为中国模型竞争新优势5月中国AI企业深度求索（DeepSeek）发布DeepSeek V4 Pro模型应用程序编程接口（API）实现永久下调75%每百万词元输入费用仅0.025元输出收费6元刷新全球主流大模型价格底线百度公司推出全新旗舰级大模型"文心5.1"该模型预训练开销仅为行业同等规模模型的约6%在权威大模型评测平台"竞技场（Are
AI 智能体降临：门锁学会思考，安保无需守门
在人工智能席卷全球的当下，一场围绕“家门”的智能化变革正无声上演。伴随 AI 从“被动应答”向“主动感知、独立决策、自主执行”的深度演进，AI 智能体的出现，正促使智能锁从单纯的开锁工具，蜕变为安装在门上的“智慧中枢”。当守护家庭安全的首道关卡具备了“主动思维”，传统意义上的保安与守卫者，是否真的面临“失业”危机？本文将深入剖析这场由 AI 智能体引领的入户安全新革命。往昔的智能锁，多需用户主动按压指纹或刷脸方可开启，即便技术再尖端，也难逃“验证身份、执行指令”的机械轮回。然而，引入 AI 智能体后，局面
支撑人工智能安全发展的三大路径
随着人工智能重塑社会形态，传统的安全防护与道德伦理框架正面临着严峻的考验。我们要如何确保人工智能始终向善？本文将为您呈现3个更安全的人工智能新愿景。在第一篇文章中，安全专家布鲁斯·施奈尔（Bruce Schneier）与数据科学家内森·E.桑德斯（Nathan E. Sanders）揭示了为何人工智能“离奇”的错误模式要求我们突破根据人类错误构建的传统安防体系，建立一套创新性的安全措施。网络文化与技术权威人士达留什·杰米尼亚克（Dariusz Jemielniak）指出，由艾萨克·阿西莫夫提出的经典机器人
AI 换脸声纹欺诈频发，熟人套路需警惕
亲爱的小海狮们你们是否曾思考屏幕中那张熟稔的面孔听筒里那道亲切的嗓音或许并非本人真容近来AI 换脸与语音模拟诈骗呈高发态势已非新闻中的遥远传闻而是真切发生在你我身边的新型陷阱不法分子仅需一张照片、几秒语音片段即可高度还原你的挚友、同窗、师长乃至至亲借由视频、语音通话实施借款、求助、转账类诈骗01 当前骗术究竟有多逼真往昔诈骗，多赖文字信息与陌生号码，极易引人生疑。然而现今的 AI 骗局，真实程度令人难辨：• 高清 AI 换脸视频：五官神态、表情细节高度吻合，肉眼几难察觉破绽。• AI 复刻声纹：语调语速、
第29章：大语言模型安全威胁与防护策略
本章法律提醒本章涉及的大语言模型提示注入、越狱攻击、后门植入、模型逆向等技术，仅限于学习研究目的和在你自己拥有合法授权的系统上进行实验。利用这些技术对商业AI服务进行攻击、生成恶意代码、创建深度伪造内容等行为，可能构成违法犯罪。AI安全研究应遵循负责任披露原则，发现漏洞应及时向厂商报告。29.1 2026年AI安全新态势二十九点一点一 大语言模型的全面渗透截至2026年，大语言模型已经从“新兴技术”转变为社会运行的基础支撑。各行各业将LLM集成到客服系统、代码助手、数据分析、文档生成、决策辅助等各个场景。
问答分享：AI 持续进化会取代人类吗？
关于这一议题，我确实无法给出确切定论，但为何仍要抛出此问？缘由在于：人工智能的迅猛发展，令我对自身未来的规划倍感困惑。起初，人类研发 AI 的初衷是服务于人，协助处理力所能及之事，然而随着其演进，它竟开始“替代”部分人类岗位。在短视频平台上，我们时常刷到人形 AI 机器人在职场作业的画面，这看似提升生活质量的背后，实则是某些职业不再招聘新人。况且，在现今 AI 能完美复刻面容与声音的时代，众多文艺从业者正面临失业风险及权益受损的困境。若以往有清晰的 AI 标识尚可辨别，但如今多数 AI 生成的图片与视频均
AI"变脸"骗术大揭秘
这幅漫画形象展现了AI"换脸"诈骗的作案手法，属于当前频发的新型网络欺诈手段之一。1.隐私泄露：犯罪分子借助社交媒体、公开影像等途径，收集被害人亲友或同事的面部特征、声纹数据。2.智能伪造：运用深度学习算法，将获取的人脸信息动态嵌入视频通话画面，同步合成相似声音，达到冒充熟人的逼真效果。3.诱骗转账：以视频连线为遮掩，以借款理财、急难求助等借口，诱使被害人汇款转账。在此特别提醒各位加强防范：⚠️ 牢记关键要点：眼见未必为实，汇款前务必通过其他渠道确认身份，切勿被犯罪分子的"以假乱真"所蒙蔽。针对此类欺诈手
西班牙正式立法规范人工智能:八项禁令与高额罚款机制
华新报-欧浪新闻5月26日（马德里 薛校书）为确保人工智能IA的应用"遵守道德规范、体现包容精神并造福社会"，西班牙政府今日正式批准了新版《人工智能规范使用与管理法》草案。该草案清晰划定了禁止行为红线、界定了"高风险"系统范畴，并配套了最高数千万欧元级别的惩处体系。草案要求，所有由人工智能系统产出的内容均须标注来源；利用该技术制作并传播的任何图像，必须嵌入含有"IA"（人工智能）标识的"数字签名"。图：西班牙政府发言人埃尔玛·赛斯女士与数字化转型和公共职能部长奥斯卡·洛佩斯在新闻发布会上。这份今日获部长会
湾区华人注意!AI 换声诈骗肆虐，母亲惨失五千美元
旧金山湾区一位女士因遭遇人工智能语音诈骗，损失数千美元。警方指出，此类模仿亲友声音实施欺诈的案件正日趋高发。Deborah Del Mastro 透露，事发于 5 月某日清晨，她接到了一个陌生来电。Deborah 回忆道：“对方先问：‘你是谁？’我反问道：‘你是谁？’紧接着他说：‘我是你必须对话的人。’”随后，对方谎称她 37 岁的女儿 Sarah 因目击了不该看的事，被墨西哥贩毒集团劫持。对方播放的录音在 Deborah 听来是“铁证如山”。她说：“那是我女儿的声音，她当时极度恐慌，哭喊着：‘妈妈，我爱
医保局通报四起医院违规典型案例
国家医疗保障局公开披露了四起定点医疗机构违背医保协议的典型案件，涵盖接送病患、减免费用，以及医护人员篡改病历、操作失范、降低入院门槛等侵蚀医保基金的行为。此举不仅导致医保资金流失，更损及定点机构公信力，引发负面社会反响。各定点医疗机构务必严守《医疗保障基金使用监督管理条例》《社会保险经办条例》《医疗机构医疗保障定点管理暂行办法》及属地医保服务协议，夯实内部管理根基，优化岗位职能、风险预警与追责机制，毅然根除各类违法违规违约行径，全力捍卫百姓的“看病钱”与“救命钱”。一、陕西省西安市周至丰融医院违背医保协议
AI 已能量产「真诚」
AI 已能量产「真诚」 前些天浏览社交平台，偶遇 Luma Labs 发布的一段影像。 一位平凡女孩，独坐室内，身着 T 恤，未施粉黛，面对镜头推介护肤好物。语调自然，间或结巴，宛若挚友微信安利般亲切。 我看完后惊觉，这竟由 AI 生成。 整个人物、整段对白，那种「随手抓拍」的氛围——全出自 AI 之手。 此产品名为 Luma Agents。只需提供商品并设定风格，它便能全自动生成全套广告素材。文案、图像、视频、音频，一应俱全。 真实感的规模化，昔日看似悖论，如今已成现实。 先谈谈 UGC 广告为何如此有