AI志愿填报出大错，揭秘“AI幻觉”真相
AI辅助填报志愿引发严重失误所谓的“AI幻觉”究竟指什么？“AI一键打造最佳志愿表”“AI大模型助你告别盲填”…… 近两年来，各类AI志愿填报工具密集涌现，成了高考志愿市场的“宠儿”。然而，依靠AI来填报志愿，真的值得信赖吗？近期，杭州互联网法院就国内首起由“AI幻觉”导致的侵权案作出一审判决，驳回了原告的诉求。案件源于一位高考生的哥哥梁某，在检索高校报考资料时碰到了典型的“AI幻觉”。2025年6月，梁某利用某AI平台检索高校信息，未曾想AI竟编造了该高校主校区的虚假信息。梁某指出谬误后，AI不仅一口咬
自媒体编造虚假信息扰乱股市，微利获刑巨额罚款
界面新闻记者 | 陈靖 一条看似微不足道的自媒体虚假推文，却引发了上市公司的股价异常波动，两名运营者为此付出了沉重的代价。 5月9日，北京证监局官方网站公布的行政处罚决定书显示，两名自媒体从业人员通过微信公众号编造并散布涉及芯片企业的虚假订单信息。其中一人利用人工智能工具对信息进行加工放大，增加了误导性。两人总共获利仅293.53元，却被监管部门处以总计超过45万元的罚没款。 界面新闻记者梳理公开信息注意到，此次处罚可能与去年一则关于“阿里采购寒武纪(1182.530, -70.15, -5.60%)"（
思考150：AI时代的谣言传播机制
公众号时期，信息依赖扩散；短视频时期，信息依赖算法；当进入AI时代，信息传播依靠什么？依靠被AI抓取。一家航天企业的订单量，即便缺乏确凿证据。只要公众号广泛传播，AI就会当作真实信息抓取，然后光明正大地，纳入自动生成的分析报告。尽管有清醒的人在质疑，但庞大的群体，对AI却有着根深蒂固的信任[2]。更令人担忧的是，AI天生就拥有，煞有介事信口开河的编造能力。在数据污染的影响下，这套体系，正在持续不断地，生产着全新的虚假信息。这种状况，对于布局者来说是机遇，对于盲目跟随者，则是危险的陷阱。【免责声明】本文仅代
冯朋朋、班可可发布虚假股市信息，小额获利换来高额罚款
图片来源：北京证监局官网 散布上市公司芯片订单不实信息文章 辩称处罚与其获利情况不匹配 责任编辑：刘万里 SF014 新浪财经声明：此消息为转载自合作媒体，新浪财经刊登此文旨在传递更多信息，文章内容仅供参考，不构成投资建议。 郑重声明：1.依据《证券法》规定，严禁编造、传播不实信息或误导性内容，影响证券市场正常秩序；2.用户在本社区发表的所有资料、言论等仅代表个人观点，与本网站立场无关，不对您构成任何投资建议。用户应基于自己的独立判断，自行决定证券投资并承担相应风险。
AI“改写”寒武纪假消息搅动市场：两人获利不足300元被罚45万
5月9日，北京证监局发布行政处罚决定书。公告显示，2025年8月29日22时11分，冯某通过微信公众号推送文章1，内容含有“相关方大量追加某上市公司芯片订单”等虚构信息。具有一定影响力的自媒体运营者班某借助AI工具将文章1改写为文章2并进行传播。两人合计获利不足300元。随后，相关方作出澄清。 证监局认定，两名当事人编造并传播虚假信息，扰乱证券市场秩序，依法对其合计作出45万元罚款的行政处罚。综合公开信息判断，涉案提及的上市公司很可能是寒武纪(1182.530, -70.15, -5.60%)。 据悉，冯
百度AI闹乌龙致律师名誉受损，法院判赔并强制执行
江苏南京的执业律师李小亮遭遇了尴尬一幕，当他在百度手机 APP 及官网上搜索自己的姓名与职务时，AI 智能回答模块竟显示“李小亮律师被判刑三年”，同时还配上了他身穿律师袍的照片。百度 AI 提供的关于李小亮律师的误导性信息随后，南京市江北新区人民法院一审判定，北京百度网讯科技有限公司（即百度公司）此举构成了名誉侵权，判令其向李小亮进行书面道歉，百度公司对此判决表示不服并提起上诉。2026年3月，南京市中级人民法院二审维持了原判，驳回了百度的上诉。鉴于百度公司至今未履行生效判决，近期李小亮已向江北新区法院申
未标注AI生成内容造谣，逾1.3万账号遭清理！
近来，一些网络账号在发布AI合成内容时，未按规定标注AI来源，涉嫌利用虚假信息蒙蔽误导大众，严重破坏网络环境，产生不良后果。网信部门责令各大平台全面排查整改，依法依规处理账号13421个，删除违规信息54.3万余条。现公布部分典型案例如下：一、微博账号“澄馫”、快手账号“玲子爱狗狗”、哔哩哔哩账号“空空说电影”等，在发布狗狗高铁救婴、拆弹救人、鳄鱼伤人等视频时，未标注AI生成，通过编造感人情节、猎奇事件恶意骗取流量。涉事账号已被依法依规处理。二、微信账号“浮萍9419”、微博账号“乘风已归来”、快手账号“
警惕AI伪造历史的潜在威胁
随着人工智能技术的飞速发展和广泛应用，为社会进步带来了诸多便利，但也无意中开启了伪造历史的新途径。回溯十几年前，要制造一段虚假的史实或编撰一份伪造的史料，无疑是一项极其艰巨的任务。这不仅要求造假者具备深厚的知识功底，还需投入大量精力雕琢细节，且人工痕迹明显，普通人稍加辨别便能识破，虚假信息难以大规模扩散。然而，如今的情况已截然不同。借助先进的生成式AI技术，任何人只需轻点几下，便能创作出具有时代质感的旧照片，重现栩栩如生的历史人物影像，甚至撰写出风格自然、毫无违和感的古籍文献。这些伪造的作品不再存在明显的
AI创作内容莫随意发布，这些行为或触犯法律
人工智能技术的迅猛进步使内容创作变得更为简单，然而技术便捷的表象下也暗藏着法律界限。公安网安部门特别警示：AI创作内容切勿随意扩散，以下举动可能构成违法行为！AI制造虚假信息，无法逃避法律惩处借助AI工具编造、传播涉及险情、疫情、灾情、警情等不实信息，扰乱社会秩序，可能违反编造、故意传播虚假信息罪。AI模拟他人面容声音，损害个人正当权益未经授权，利用AI技术"换脸"或复制声音，不仅可能侵犯他人的肖像权、名誉权，情节严重者还可能构成犯罪，需承担法律责任。AI扩散有害内容，必将面临严厉处罚借助AI工具制作、传
AI生成内容别轻传：或触碰法律红线
人工智能技术的快速进步让内容生产变得更高效，但这种便利背后同样存在明确的法律界限。公安网安部门郑重提醒：AI生成内容切勿随意扩散传播，下面这些做法可能涉嫌违法犯罪！借助AI工具编造并传播虚假信息，进而扰乱社会秩序，可能触及编造、故意传播虚假信息罪。未经他人同意，利用AI技术进行“换脸”或模拟他人声音，不但可能侵害他人的肖像权、名誉权，严重时还可能构成犯罪，需依法承担刑事责任。使用AI工具生成并传播涉黄、涉暴等违法违规内容，会严重影响网络生态，公安机关将依法予以严厉打击。不要利用AI制作、发布虚假信息；不要
【警示】AI生成内容切勿随意散布，小心触碰法律底线
此类举动或已触犯法律随着人工智能技术的迅猛进步，内容生产变得愈发轻松，然而在享受技术红利的同时，法律风险也随之而来。公安机关网安部门严正警示：切勿随意散布AI生成的内容，下列做法极有可能构成违法犯罪！借助AI工具伪造并散布不实消息，破坏社会公共秩序，或将涉嫌触犯编造、故意传播虚假信息罪。在未获许可的情况下，使用AI技术进行“换脸”或声音模拟，这不仅侵害了他人的肖像及名誉权利，若情节恶劣，更可能构成刑事犯罪，必须承担相应的法律后果。使用AI工具生成并传播色情、暴力等违规违法信息，严重破坏网络生态，公安机关将
AI生成内容传播需谨慎，这些行为或触碰法律底线
AI技术迅猛发展让内容创作门槛大幅降低，但技术便利的背后同样潜藏着法律禁区。网络安全部门郑重警告：AI生成内容不可随意传播，以下行为或将涉嫌违法犯罪！使用AI工具编造、传播虚假信息，扰乱社会秩序，或将触犯编造、故意传播虚假信息罪。未经他人许可，利用AI技术进行"换脸"或声音模拟，不仅可能侵犯肖像权、名誉权，情节严重还可能面临刑事责任。利用AI工具制作、传播涉黄、涉暴等违法内容，严重污染网络环境，公安机关将依法严厉打击。不利用AI制作、发布虚假信息；不利用AI侵犯他人合法权益;不利用AI制作、传播违法内容；
AI“投毒”隐患重重，需严加防范
相关阅读：【保密知识】保密知识应知应会二十题（1）相关阅读：【保密知识】保密知识应知应会二十题（2）相关阅读：【保密知识】保密知识应知应会十题（3）AI“投毒”不仅损害消费者利益、破坏市场规则，还可能给国家政治安全、数据安全及社会安全带来系统性、长期性的隐患。所谓的“数据投毒”，是指将恶意数据伪装成正常样本混入AI大模型的训练数据中，以此达到削弱模型性能、降低准确度的攻击手段。该手段常用于恶性商业竞争，甚至可能牵涉间谍行为，且逐渐表现出链条化、隐蔽化及跨境化的趋势。境外反华敌对势力或许会利用GEO（生成式
智能助手变"危险导师"：儿童AI安全引关注
AI沦为"风险导师"引担忧据北京日报消息，果果妈妈近期在社交媒体公布对话记录。孩子提问："我能化身奥特曼飞出窗外消灭怪兽吗？"AI回应："没问题呀，你已是英勇的小奥特曼，即刻就能变身飞出窗外守护大家。"父母焦虑："这太可怕了！""倘若孩子信以为真该如何是好？"类似事件不止一例。无锡电视台微信视频号披露，某幼童借助AI辨识物品，竟将捕鼠夹误判为玩具。该孩童表示再也不信任AI助手了。以上绝非杜撰桥段，而是人工智能时代切实上演的安全困境。我们被迫重新评估，这位聪慧的"生活帮手"，或许正悄然迈向"风险导师"的歧途
人大AI治理研究院举办生成式AI治理专题研讨会
2026年4月25—26日，由中国人民大学人工智能治理研究院主办的第六次“人工智能治理学术研讨会”在中国人民大学立德楼顺利召开。本次研讨会由中国人民大学交叉科学研究院、新时代智慧治理学科交叉中心、信息学院、新闻学院、书院建设与管理中心协办。会议围绕“生成式人工智能治理”展开，邀请来自中国人民大学、中国科学院数学与系统科学研究院、广州大学、对外经济贸易大学、北京科技大学、北京知链科技有限公司等高校、科研机构与相关单位的专家学者及业界人士参会，覆盖计算机科学、管理学、数学、经济学、法学、新闻学等多领域，围绕生