AI大模型入门：伦理、安全与产业变革

——道德、风险与行业变革

一、道德与风险

1. 人工智能道德准则。这是全球各方致力于维护AI发展的“红线”。

道德准则

通俗解释

实际案例

公平公正

杜绝针对特定人群的歧视

招聘面试时不能仅因性别筛选简历

透明可解释

决策逻辑必须清晰易懂

AI拒绝贷款申请时，需解释具体原因

隐私保护

处理数据必须尊重个人隐私

医疗系统严禁随意泄露病人病历

安全可控

系统需安全可靠，人类掌握最终控制权

自动驾驶遇到险情，人类驾驶员可随时接管

责任归属

造成损害需有人或机构负责

因AI误诊导致的后果，由开发者或使用者承担

增进福祉

AI发展的终极目标是提升人类幸福

应利用AI改善生活，而非制造杀伤性武器

2. 三大主要风险。

风险类型

概念

具体案例

考核重点

幻觉

AI“一本正经地胡言乱语”，输出看似合理实则错误的信息

AI生成了一篇看似专业的学术论文，但引用的参考文献均为伪造

请判断下述AI回答是否属于“幻觉”现象

算法偏见

因训练数据存在偏差，导致AI对特定群体做出不公正判断

AI画像将“护士”默认为女性、“程序员”默认为男性

请指出“AI对某群体存在不公平”属于何种风险

隐私泄露

AI处理数据时可能无意暴露或滥用个人隐私

医疗AI在训练中使用了患者数据，但未进行匿名化处理

判断“将用户对话用于训练且未脱敏”属于哪种风险

额外风险（仅供参考）：深度伪造→ 利用AI制作虚假面部或声音，易被用于诈骗。算法黑箱→ AI决策过程晦涩难懂，难以追溯。过度依赖→ 用户盲目信任AI，丧失独立思考能力。

3. 安全使用准则。

安全规范

操作指南

考试题目

不输入敏感信息

切勿在对话中输入身份证、卡号、密码、地址等

判断题：“能否将身份证号发给AI代填表格？”（答案：不能）

不泄露他人隐私

对话中严禁提及他人的私人信息

选择题：“以下哪项操作是安全的？”→“不透露他人隐私信息”

核实AI回答

AI难免出错，重要信息必须人工核查

实操建议：让AI协助查数据后，务必二次核实