案例警示：AI换脸诈骗频发 守护个人财产安全
本文预计阅读时间：5分钟一、典型案例日前，市民王女士不幸陷入利用AI技术实施的新型诈骗陷阱。犯罪分子盗用其专属保险客户经理的形象和身份主动添加好友，精确报出王女士的保单详情和投保时间等信息，成功骗取信任。随后对方发起视频通话，借助AI换脸和语音合成技术完美复刻工作人员的相貌和嗓音，编造可办理保单高额退费的谎言，诱导王女士提供银行卡号码、短信验证码。王女士未能识破骗局，配合操作后账户资金遭到盗取，遭受重大财产损失。二、诈骗手段剖析此类诈骗隐蔽性极高，不法分子事先非法获取投保人的敏感信息和投保记录，借助AI技
重磅发布|安全牛《AIGC 内容安全与风险管控技术指引》
点击蓝字 关注我们当下，人工智能生成技术（AIGC）正快速融入千行百业，内容创作迎来颠覆性转折，生产力得到极大释放。然而，AIGC 在提升生产效率的同时，也催生了各类新型内容风险：AI 谣言扰乱视听、深度伪造技术遭滥用、音频人脸侵权、色情图片泛滥、魔改视频扩散等乱象层出不穷，版权界限不清、价值观偏差、模型投毒等问题日益严峻。AIGC 内容乱象不仅违背公序良俗、亵渎文化经典，冲击公众的历史认知与文化认同，更直接危及网络空间秩序与社会信任体系，甚至触碰国家安全红线，成为 AIGC 产业健康发展的“拦路虎”。针
人工智能在司法实践中的角色边界与属人原则探讨 | 学术动态
学术论文陈景辉：《司法裁判的属人性：人工智能司法角色的限度》，载《中国法学》2026年第3期摘要：人工智能自诞生之初便被广泛用作司法辅助手段，但其功能理应仅限于辅助层面。然而，生成式人工智能的出现可能打破这一限制，有潜力转型为与人类法官同等的司法主导力量。生成式人工智能已具备像人类法官那样理解法律规范、生成裁判结论的能力，且拥有某些人类法官不具备的特点，这引发了可能取代人类法官的讨论。然而，司法本质上是关于人类实践的活动，需满足三项属人要求：人与人之间的对待、法律对人的对待、个人对人的对待。生成式人工智能
AI意识大辩论：姜峯楠万字长文驳斥Hinton观点
《金融时报》报道，Anthropic、DeepMind、Meta 正在大量招募心理学家、哲学家及伦理学家，聚焦于 AI 意识与模型福祉的研究。https://www.ft.com/content/53e14bcc-788c-4959-b260-7aee363594bc?syn-25a6b1a6=1两个月前，Anthropic 可解释性团队发表论文，在 Claude Sonnet 4.5 中找到了真实存在的“情绪向量”，能因果性地导致模型作弊甚至勒索。本周，一边是 Hinton 声称 AI 已具备意识；另一
中美携手筑牢AI安全防线：合作势在必行
中美携手筑牢AI安全防线：合作势在必行Christina Knight哈佛大学智能设计和工商管理硕士候选人。曾领导Scale AI的安全和政策研究实验室，并担任美国人工智能标准和创新中心的高级政策顾问Scott Singer卡内基国际和平基金会技术和国际事务项目研究员Foreign AffairsApril 7, 2026导读随着人工智能深度融入中美经济与战略博弈，该技术也带来了无国界的极端风险。任何个人或组织都可能利用AI模型或组合模型设计危险病原体，攻击电网或医院网络，或制造侵蚀信任的深度伪造内容。因
本周金融AI与全球风险洞察(0531-0604)
一、本周AI欺诈风险事件1. AI深度伪造冒充企业高管实施社工诈骗风险持续升级事件名称：AI深度伪造CEO视频会议诈骗模式再被安全机构重点预警事件综述： 6月初发布的最新欺诈趋势分析显示，生成式AI正推动深度伪造（Deepfake）、语音克隆及合成身份欺诈快速扩散。犯罪分子利用AI生成高管视频、语音及定制化钓鱼内容，大幅提高社工诈骗成功率。金融机构与保险公司被列为重点受攻击行业，相关风险已从“身份伪造”升级为“信任伪造”。 (FF News | Fintech Finance)from:https://f
人工智能安全：重塑信任未来的关键路径
导语：近期，美国外交关系协会（CFR）发布《保障智能安全：人工智能安全何以定义信任的未来》报告，强调AI安全是各国巩固技术领导力的核心，剖析了模型漏洞、治理缺失及攻防失衡风险，主张以信任驱动AI可持续应用。一、脆弱的基石：守护AI供应链安全支撑AI的代码与模型架构存在隐患。数据显示，近45%的AI生成代码潜藏缺陷，将企业收益转化为法律风险。公共库中泄露密钥超2.5万个，同比增长64%，27%仍具活性。仅需250份恶意文档，便能在大模型中植入后门。这动摇了模型完整性信心，数据溯源受损威胁国家安全。这些底层漏
马斯克人工智能公司要求集体诉讼原告公开身份应对深度伪造争议
根据法庭档案，埃隆·马斯克创立的人工智能企业xAI已向法院递交申请，寻求让四名原告在针对Grok深度伪造成人图像的集体诉讼中使用真实姓名进行诉讼。 原告方担忧，公开身份可能导致骚扰升级，并加重其在书面陈述中提及的个人损害后果。 法庭文件表明，原告目前以“南卡罗来纳州无名氏”、“南卡罗来纳州罗伊”、“新泽西州无名氏”和“俄亥俄州无名氏”名义登记，原告同意向xAI透露真实身份，但希望在公开法律文书中维持匿名。 xAI的法律团队主张，民事诉讼通常要求明确标识各方当事人，公众有权知晓哪些人在对公司提起诉讼。他们还
五月AI产业三大看点：价格战、上市潮、监管收紧
中国多款大模型价格下探性能与成本比值跃居世界前列全球多国加速AI治理框架构建为技术发展设定边界……今年5月众多媒体将AI产业全球动态归纳为降价、上市、监管三大主题高性价比成为中国模型竞争新优势5月中国AI企业深度求索（DeepSeek）发布DeepSeek V4 Pro模型应用程序编程接口（API）实现永久下调75%每百万词元输入费用仅0.025元输出收费6元刷新全球主流大模型价格底线百度公司推出全新旗舰级大模型"文心5.1"该模型预训练开销仅为行业同等规模模型的约6%在权威大模型评测平台"竞技场（Are
AI 智能体降临：门锁学会思考，安保无需守门
在人工智能席卷全球的当下，一场围绕“家门”的智能化变革正无声上演。伴随 AI 从“被动应答”向“主动感知、独立决策、自主执行”的深度演进，AI 智能体的出现，正促使智能锁从单纯的开锁工具，蜕变为安装在门上的“智慧中枢”。当守护家庭安全的首道关卡具备了“主动思维”，传统意义上的保安与守卫者，是否真的面临“失业”危机？本文将深入剖析这场由 AI 智能体引领的入户安全新革命。往昔的智能锁，多需用户主动按压指纹或刷脸方可开启，即便技术再尖端，也难逃“验证身份、执行指令”的机械轮回。然而，引入 AI 智能体后，局面
支撑人工智能安全发展的三大路径
随着人工智能重塑社会形态，传统的安全防护与道德伦理框架正面临着严峻的考验。我们要如何确保人工智能始终向善？本文将为您呈现3个更安全的人工智能新愿景。在第一篇文章中，安全专家布鲁斯·施奈尔（Bruce Schneier）与数据科学家内森·E.桑德斯（Nathan E. Sanders）揭示了为何人工智能“离奇”的错误模式要求我们突破根据人类错误构建的传统安防体系，建立一套创新性的安全措施。网络文化与技术权威人士达留什·杰米尼亚克（Dariusz Jemielniak）指出，由艾萨克·阿西莫夫提出的经典机器人
AI 换脸声纹欺诈频发，熟人套路需警惕
亲爱的小海狮们你们是否曾思考屏幕中那张熟稔的面孔听筒里那道亲切的嗓音或许并非本人真容近来AI 换脸与语音模拟诈骗呈高发态势已非新闻中的遥远传闻而是真切发生在你我身边的新型陷阱不法分子仅需一张照片、几秒语音片段即可高度还原你的挚友、同窗、师长乃至至亲借由视频、语音通话实施借款、求助、转账类诈骗01 当前骗术究竟有多逼真往昔诈骗，多赖文字信息与陌生号码，极易引人生疑。然而现今的 AI 骗局，真实程度令人难辨：• 高清 AI 换脸视频：五官神态、表情细节高度吻合，肉眼几难察觉破绽。• AI 复刻声纹：语调语速、
第29章：大语言模型安全威胁与防护策略
本章法律提醒本章涉及的大语言模型提示注入、越狱攻击、后门植入、模型逆向等技术，仅限于学习研究目的和在你自己拥有合法授权的系统上进行实验。利用这些技术对商业AI服务进行攻击、生成恶意代码、创建深度伪造内容等行为，可能构成违法犯罪。AI安全研究应遵循负责任披露原则，发现漏洞应及时向厂商报告。29.1 2026年AI安全新态势二十九点一点一 大语言模型的全面渗透截至2026年，大语言模型已经从“新兴技术”转变为社会运行的基础支撑。各行各业将LLM集成到客服系统、代码助手、数据分析、文档生成、决策辅助等各个场景。
AI"变脸"骗术大揭秘
这幅漫画形象展现了AI"换脸"诈骗的作案手法，属于当前频发的新型网络欺诈手段之一。1.隐私泄露：犯罪分子借助社交媒体、公开影像等途径，收集被害人亲友或同事的面部特征、声纹数据。2.智能伪造：运用深度学习算法，将获取的人脸信息动态嵌入视频通话画面，同步合成相似声音，达到冒充熟人的逼真效果。3.诱骗转账：以视频连线为遮掩，以借款理财、急难求助等借口，诱使被害人汇款转账。在此特别提醒各位加强防范：⚠️ 牢记关键要点：眼见未必为实，汇款前务必通过其他渠道确认身份，切勿被犯罪分子的"以假乱真"所蒙蔽。针对此类欺诈手
西班牙正式立法规范人工智能:八项禁令与高额罚款机制
华新报-欧浪新闻5月26日（马德里 薛校书）为确保人工智能IA的应用"遵守道德规范、体现包容精神并造福社会"，西班牙政府今日正式批准了新版《人工智能规范使用与管理法》草案。该草案清晰划定了禁止行为红线、界定了"高风险"系统范畴，并配套了最高数千万欧元级别的惩处体系。草案要求，所有由人工智能系统产出的内容均须标注来源；利用该技术制作并传播的任何图像，必须嵌入含有"IA"（人工智能）标识的"数字签名"。图：西班牙政府发言人埃尔玛·赛斯女士与数字化转型和公共职能部长奥斯卡·洛佩斯在新闻发布会上。这份今日获部长会