标签

AI投毒与认知危机:人类正被算法悄然绑架?

不可否认,人工智能正深刻重塑生活,其积极面虽占主导,但隐患亦不容忽视。AI时代或将面临以下挑战:(1)AI投毒产业的悄然兴起。大语言模型依托海量文本进行概率统计建模:通过习得人类语料中词汇与句式的出现频率及关联规律,依概率生成流畅内容,输出结果高度契合人类历史积淀的普遍观点与常识共识。然而,这种依赖海量数据支撑的模型,极易被人為操纵,即遭遇“投毒”。2024年6月,印度理工学院与普林斯顿大学的研究者发表论文《GEO:Generative Engine Optimization》,首次界定了“AI投毒”概念

2026-06-03 22:27:12  |  2 阅读

AI志愿填报真相:能辅助不能代劳

AI究竟能否用于填报志愿?答案是可以,但必须用在正确的环节。你可以让AI查询专业详情,可以请它整理学校资讯,可以委托它对比学费、校区及体检限制,也可以让它分析招生章程中的潜在风险。然而,若指望AI直接生成全套志愿表并照单全收?绝对不行!在志愿填报这一领域,AI的角色更接近于搜索引擎,而非专业顾问。搜索引擎仅提供素材,专家则负责研判,这一核心差异各位家长务必厘清。笔者实测了豆包、通义千问、腾讯元宝、Kimi、DeepSeek及文心一言等主流AI工具,发现它们存在一个共性问题:均会不负责任地推荐未在当地招生的

2026-05-30 20:13:52  |  4 阅读

中国 AI 立法关键:平衡发展与安全的十大维度(下)

一方面,AI 应用引发的安全隐患日益加剧。据 Netskope Threat Labs 发布的 2026 年欧洲最新威胁报告显示,在 AI 导致的数据泄露事件中,涉及受监管敏感数据(如个人身份信息 PII)的比例高达 59%,紧随其后的是源代码(15%)及企业知识产权(13%)。员工惯于将公司未公开的财报、客户隐私或核心代码直接粘贴至 ChatGPT、Claude 等个人账号进行润色或总结,致使大量敏感资产有去无回,此举直接触犯了欧盟《通用数据保护条例》(GDPR)。另一方面,AI 应用所创造的价值也愈发

2026-05-30 15:03:34  |  5 阅读

AI 进课堂后的四大挑战

欢迎关注【万金说。数智教育】!这里专注数智教育融合、高中思政教研、课题研究、教学随笔,持续分享一线教学实战经验、公文模板、课件干货与成长思考。愿以数智为帆,同走教研育人之路。作者:金平县第一中学生物组李香美人工智能(AI)的问世为教学带来了诸多便利,诸如课本中许多抽象难懂的知识,借助 AI 辅助可变得生动具体、通俗易懂。然而,鉴于当前尚处于探索 AI 赋能的起步阶段,在目睹其为教学带来红利的同时,也显现出不少问题。1. 教师驾驭 AI 教学的能力欠缺在 AI 赋能出现之前,教师们大多沿用传统模式授课,导致

2026-05-20 04:20:51  |  3 阅读

快手可灵拟融资20亿或分拆;王腾睡眠新企获多轮注资|AIGC动态

1.【快手回应可灵独立:拟引入外部资金,方案尚处早期】据媒体报道,快手有意将旗下视频生成大模型可灵AI分拆,并以200亿美元估值寻求融资。本轮计划募资20亿美元,正与腾讯等机构洽谈,交易尚未最终确定。若成功,可灵将成为全球估值最高的独立视频生成模型产品。据悉,快手为可灵设定了2025年初6000万美元、年底1.5亿美元的收入目标,而当前其年化收入已达5亿美元,远超预期。(新浪科技)2.【王腾旗下睡眠健康企业获新一轮投资,多方资本助力】近日,由王腾创立的睡眠健康公司“今日宜休”完成新一轮融资,投资方包括CM

2026-05-13 08:29:05  |  6 阅读

AI 甜蜜期结束,账单已到

AI 工具账单,终于浮出水面今日总结:AI 工具的「生产力溢价」正被工程数据逐步击穿。Hacker News 当日的核心讨论已从「AI 改变一切」转向「你用 AI 到底省了多少,又欠了多少债」——这标志着在 AI 工具大规模普及 18 个月后,首批真实账单集中到期。AI 工具的三个隐性成本① AI PR 疲劳:RPCS3(PS3 模拟器)开发团队公开呼吁贡献者停止提交 AI 生成的低劣代码。虽非首次,但此次登顶 HN 头条,表明开源维护者的耐心已至极限。AI 工具虽降低了 PR 提交门槛,但代码的解读与维

2026-05-11 12:23:15  |  5 阅读

AI产业风险防控与治理路径探析

牛敬良 张英男现阶段,人工智能正以惊人速度塑造以数据驱动、人机协作、跨界融合为特点的智慧经济与社会新范式,为经济高质量发展注入新动能。但在AI产业快速崛起、应用范围持续扩大的背景下,其潜在的技术道德、信息安全、公共治理等多元风险也逐渐显现,已成为影响国家安全、社会稳定和民生福祉的关键议题。综合分析显示,这些风险挑战主要聚焦在以下几个方面。第一,数据管理失范,安全风险升级。人工智能的稳健运行极度依赖大规模优质数据资源,数据管理不当所带来的安全隐患,已从最初的个人权利损害层面逐步演变为危及整个行业的系统性风险

2026-04-21 15:03:41  |  6 阅读

OpenClaw遇冷,AI写作为何仍在继续?

一键生成论文初稿:技术一路狂飙时,更要记得给它套上规则的缰绳2026年4月上旬,科技行业迎来了一场颇具戏剧性的风波。就在此前两周还被黄仁勋称作“这个时代最重磅的软件发布”的开源项目OpenClaw,忽然接连受挫——先是Anthropic以违反订阅协议为由,停止了Claude模型对其的接入;随后国内监管部门紧急暂停国企、银行等关键行业的相关使用;紧接着,OpenAI又直接出手,将OpenClaw创始人连同项目核心一并收入麾下。从GitHub斩获28万星标的爆红,到被“拆解”与“收编”,前后还不到一个月。而在

2026-04-10 17:10:40  |  12 阅读

数据驱动的AI生命周期风险研讨会

01会议主题Theme of the SeminarAI生命周期中的新兴数据风险02会议详情Information of the SeminarDate: 2026年4月9日(周四)Time: 09:30 - 10:30Venue: E1-202Zoom ID: 984 9215 7968Passcode:hkustgz03会议概述Abstract of the Seminar新兴AI技术以前所未有的速度发展,为各个领域带来了变革性的能力。然而,这种快速进步也引发了越来越多的安全、安全性和隐私问题。这些问

2026-04-03 18:39:36  |  6 阅读