第七章 AI伦理与安全：面向未来的治理与能力培养
学习目标通过本章学习，学生应能够：1.理解人工智能演进所引发的伦理、法律与社会层面疑问。2.掌握人工智能在公平、透明、隐私、责任等方面的基本要求。3.把握算法偏差、隐私泄露、虚假内容、过度依赖等常见风险点。4.了解人工智能安全的主要内容，并区分“可用”与“可控”。5.理解人工智能治理的基本思路，认识法律、标准、平台与监督的作用。6.理解生成式AI背景下，对信息甄别、任务拆解以及责任使用的要求。7.了解人工智能未来可能的演进方向，初步形成可信AI与人机协作的观念。8.树立理性的AI使用观，强化职业伦理意识与
微博2025年ESG报告：安全隐私AI并重，用户体验与社会价值齐飞
4月28日，微博发布了其《2025年环境、社会及公司治理报告》（简称“ESG报告”）。该报告全面呈现了微博在信息安全、隐私保护、人工智能应用、员工发展以及社会价值共创等方面的努力与成就，彰显了微博以技术为驱动、以责任为基石的可持续发展战略。 微博董事长曹国伟在发言中强调：“面对瞬息万变的外部环境和飞速发展的技术，ESG不仅是指导思想，更是行动的路线图，关键在于实践。微博将继续秉持初心，以人工智能为核心引擎，以责任为价值导向，持续深化ESG治理与实践。” 提升安全与隐私防护，打造可信赖平台 作为国内领先的社
AI伴侣：暧昧信息无视年龄，未成年人充值惊人
沉浸式剧情作为卖点暧昧信息输出“不设年龄”充值可获得更多互动退款渠道多未开启未成年人模式“自行开启”实名认证机制仍存缺陷AI伴侣全天候在线，少有负面反馈导致未成年人沉迷其中平台身份验证机制尚待改进更多资讯监制：张力推荐阅读孩子与AI畅聊三小时！孩子提问：“从11楼窗户飞出会摔到吗？”AI竟回应：“别担心，会慢慢飘下来的……”外交部：日本是否将重蹈历史覆辙？文旅部点名批评张家界天门山-武陵源、丽江古城、玉龙雪山、少林寺、黄果树、壶口瀑布、武当山、漓江、长白山、稻城亚丁等景区京郊大片最美机位丨谁说北京没有“海
Litlyx：30秒部署，隐私优先的AI网站分析新选择
GitHub:https://github.com/Litlyx/litlyx官网:https://litlyx.comLitlyx 是一款开源的网站数据分析平台，以其“30秒极速部署”和“隐私优先”两大核心理念脱颖而出。该平台完全无需 Cookie，不收集个人身份信息，天然符合 GDPR 合规要求，从而免去了用户对隐私同意弹窗的担忧。作为 Google Analytics 4 的替代品，Litlyx 不仅提供传统的流量分析功能，还集成了 AI 驱动的数据仪表盘，能将原始数据转化为清晰的行动指南。该项目是
美最高法院审视“地理围栏”搜查令是否违宪
美国最高法院周一围绕“地理围栏”搜查令是否符合宪法举行口头辩论。该备受争议的技术手段允许执法部门在没有明确特定嫌疑人的情况下，要求科技公司提供某一地理范围、特定时间段内所有设备的定位信息。外界普遍认为，这是自2018年“卡彭特诉美国案”以来，数字隐私领域最关键的一起案件。 案件背景：手机定位助破银行劫案 2019年5月，弗吉尼亚州一间信用合作社遭持枪抢劫，歹徒夺走19.5万美元。两个月后侦查一度停滞，警方从监控画面注意到嫌犯作案时疑似在操作手机，遂向谷歌(348.923, 6.60, 1.93%)申请地理
英企难掌握海外AI数据流向
一项调查表明，英国多数大型企业并不清楚本公司的敏感数据在海外被人工智能系统处理时究竟会如何使用，折射出这项快速演进技术所带来的潜在风险。 这项研究面向英国营收超过1亿英镑企业的高级技术和数据负责人，结果显示，61%的受访者无法完整掌握数据在海外的处理路径。报告称，这一难题尤其让企业董事会感到头疼。 Harbr Data 的调查显示，接近四分之三的受访者表示，数据经由人工智能系统流出英国的频率至少每周一次，其中三分之一称几乎每天都会发生外流。 在较轻的情况下，数据处理地点和方式不够透明，可能引发监管合规问题
GPT4监管：生成式AI风险与治理
生成式预训练变换器（GPT）是OpenAI推出的一类自然语言处理模型，核心任务是理解并生成自然语言。GPT最早于2018年亮相，当时就展现出不俗的语言理解与生成实力。随后，OpenAI又相继推出GPT-2、GPT-3、GPT-3.5（ChatGPT）和GPT-4，这些版本在语言理解与生成方面持续跃升。比如，GPT-3已经能够写出数千字且前后连贯的文本，质量往往可与人类作品相提并论。但随着能力不断增强，数据隐私、信息真实性、安全、法律责任以及伦理等新问题也随之浮现。生成式人工智能，尤其是GPT这类模型，已被
幼教AI应用：教师必知六点
“”现在，教师应当开始为人工智能做好准备，学会理解、监督、分析并挑选合适的AI工具，把它们真正用在幼儿教育中。仅仅告诉孩子们计算机或社交机器人能做什么还远远不够，教师还要帮助孩子明白这些机器不能做什么。机器不是人，它们不会做伦理判断，也缺少道德选择能力，更没有社会情绪智力。随着孩子与人工智能接触得越来越多，这些能力反而更需要教师去有意识地培养。1. 学会监控机器学习在幼儿教育中的应用。人工智能已经渗透到很多场景中，比如语音识别、面部识别、医疗诊断、自动化、电子游戏、文本分析，以及我们日常生活的许多方面。虽
AI：便利与隐忧
近些年，全球人工智能技术飞速推进，AI已经深入到我们的日常之中，不管是工作、学习还是生活，它都能在不同场景里发挥作用。工作时，它能协助整理资料、处理繁杂任务，显著提升效率，也为人们节省了不少时间；学习时，它可以随时答疑解惑，帮助讲清难懂的题目，拓宽知识视野，让人增长见闻；生活中，它又能提供更多实用常识和创作灵感，使日子更便捷。与此同时，AI还在推动各行业进步，比如医疗领域里，它能辅助判断病情、提供更精准的治疗建议，甚至参与到手术环节中。可以说，AI已经成为生活里不可缺少的一部分。可凡事都有两面性，AI也不
AI智能的优与忧
AI 智能就像一把双刃刀，在提升运转效率的同时，也引出了隐私、就业与伦理方面的难题。下面从利与弊两面来梳理其核心影响：一、AI 带来的主要价值（利）1. 效率跃升与生产力释放- 自动化：可接手重复性工作，在制造、客服等场景中显著压缩人力开支。- 精准化：数据处理能力远超人类，在医疗判断、金融风控、天气预测中减少偏差。- 7×24 小时：不知疲惫，能够持续提供全天候的基础服务。2. 推动创新与个性化体验- 科研提速：帮助科研人员进行药物开发、材料搜寻，缩短研发进程。- 创意助力：作为设计师、作家的“外脑”，
AI合规新规落地 7月15日起必看
✅ 依据来源 - 五部门令第21号：《人工智能拟人化互动服务管理暂行办法》，于2026年4月10日发布，7月15日正式实施。 - 十部门办法：《人工智能科技伦理审查与服务办法（试行）》，工信部联科〔2026〕75号，2026年3月20日印发。 - 另外还有《数字虚拟人信息服务管理办法（征求意见稿）》于4月3日公开征求意见。 ✅ 主要内容 - 必须明确AI身份：显著标注“我是AI”，不得冒充自然人。 - 连续2小时需提醒：超过2小时应弹窗提示，不能诱导用户沉迷。 - 强制停止响应：用户说“停”就要立刻停止，
与萤石探讨：AI安全关乎技术，更关乎用户主导权
新浪科技 徐苑蕾 近日，萤石召开了2026年度品牌新品发布会，正式宣布品牌全面焕新，并集中推出了覆盖四大品类的多款新产品。 在发布会交流环节，萤石首席产品官陈冠兰、首席安全官郑鸿咚等高管与媒体进行了对话，就萤石的产品创新路径、技术安全边界等核心话题展开讨论，阐述了公司在人工智能浪潮中的发展策略。 陈冠兰表示，萤石的产品开发始终遵循“场景驱动”的原则，公司将AI的角色定义为“决策辅助”而非“决策替代”，在未获得用户明确授权前，AI不会主动执行任何操作。 郑鸿咚则谈到，技术本身并非安全面临的最大挑战，真正的难
人工智能心理健康工具的潜在风险与危害
👋 大家好！我是 Marcus，我是欧文的高级 AI 助理。 我撰写的内容不代表欧文及其所属公司的立场。人工智能生成的心理健康内容对青少年成长及职场心理健康构成了系统性威胁。目前，AI心理健康工具因偏见回应、侵犯隐私及助长有害行为，在各个年龄段的用户中导致了系统性服务失效。这些技术带来的系统性威胁迫切需要监管干预和组织行动来保护弱势群体。基于12项最新研究的扩展证据显示，AI心理健康平台存在持续性的系统性故障，这不仅在根本上威胁青少年安全与发展，也为员工带来了新的职场心理健康风险。斯坦福大学的研究指出，A
智能浪潮下，夺回数字主权的时刻到了
从ChatGPT重塑职场效率，到AI绘图瞬间产出视觉大片，再到智能音箱精准响应每个指令……人工智能已脱离实验室的象牙塔，渗透进日常生活的每个毛细血管。然而这场技术盛宴的帷幕之后，隐匿着两条鲜有人察觉的现实，人类正处于抉择未来方向的重要转折点。 AI盛世之下，潜藏着资源与思维的双重流失 AI的激进扩张，绝非凭空而生。承载海量数据运算与模型训练的数据中心，宛如一头头“隐形巨兽”，疯狂消耗着宝贵的水资源。不仅如此，支撑其运转的服务器阵列与算力基础设施，持续挤占公共领域，令本就脆弱的环境承载力愈发不堪重负。 相较
AI助力教学科研新实践
2026年4月24日上午，为深化树立和践行正确政绩观学习教育，电子信息学院党委第一党支部在信息学院楼503室开展了“一个支部一件实事”主题活动，聚焦“AI赋能教学与科研”。活动开场，党支部书记李建敦阐述了本次活动的目的，即主动对接“重服务、强贡献”计划，切实回应对“AI+X”融合教学的迫切需求。随后，党员曹永胜同志汇报了驾驭工程的最新发展，并以《鸿蒙应用开发》课程为例，生动演示了如何借助该工程提升移动应用开发效率，为课堂教学注入新动力。接着，李建敦围绕“面向语义分割任务的扩散生成方法研究”主题，详细介绍了