数据脱敏
训练前去除姓名、身份证号等直接身份信息。
CH.07 / AI FOUNDATIONS
MODULE 07 / SAFETY给技术
给技术
系上安全带
AI 越能影响现实，越要理解隐私、偏见、幻觉、伪造与物理安全背后的验证责任。
SAFE
AI隐私验证急停责任
AI隐私验证急停责任
隐私保护的
三道防线
降低个人可识别性同一目标，三种不同机制
联邦学习
数据不出本地，只上传模型更新。
差分隐私
加入适度噪声，降低反推个人信息的风险。
偏见如何被
自动放大
历史偏见
过去的制度与选择已经写进训练数据。
采样偏差
某类样本太少，模型看不见真实分布。
标注偏见
人工判断把单一视角带进标签。
模型固化
既有倾向被自动化，并在更大规模上放大。
BIAS × AUTOMATION
99% 与 70%
暴露了什么
训练集：红色占 90%
99%红色路障
识别率
识别率
高分来自偏斜样本
训练场里几乎都是红色路障，模型很少看见其他颜色。
样本偏斜
模型学到的捷径
特定形状 + 反光条
路障 = 红色物体而不是特定形状 + 反光条
遇到蓝色
蓝色样本：严重不足
70%蓝色路障
识别率
识别率
换个颜色就掉分
模型识别的是训练集里的颜色捷径，不是路障本身的稳定特征。
总体准确率 ≠ 每个子类都可靠｜必须分组审计
流畅不等于
真实
模型生成：预测下一个词
流畅自信有逻辑
仍可能编造事实、引用、推理前提或计算结果。
≠
事实核验：回到证据链
可靠来源、交叉验证和可复查推理，才让重要信息可信。
应对幻觉的
五步验证
重要信息
先别急着信
先别急着信
看起来像真的
也要验来源
内容内部线索
看细节｜面部边缘、眨眼、光影听音质｜呼吸、语调、背景噪声查背景｜变形、扭曲、不自然边缘
这些异常能提示风险，但单一细节不能独立定案。
VERIFY
传播链外部证据
验来源｜追溯原始出处与转发链用工具｜检测结果只作辅助三问验证｜来源、独立证实、传播目的
来源核实与独立渠道，比“看起来像不像”更可靠。
当 AI 有了身体
错误会碰到现实
AI 有了身体
风险进入现实
风险进入现实
感知错误
传感器误判对象，动作目标随之出错。
策略失误
危险路径被当作可行动作。
硬件失控
故障或断连后设备无法及时停止。
对抗攻击
恶意输入诱导系统误判。
安全不是一层
是三层防线
03 / 流程安全层
双人确认 · 模拟 100 次 · 渐进部署 · 日志追溯
02 / 硬件安全层
急停按钮 · 碰撞检测 · 安全围栏 · 声光报警
01 / 软件安全层
阈值 · 动作限制 · 异常检测
AI 出错时
谁来负责
AI 不是
法律主体先判断具体场景，再把责任落回人的行为。
法律主体先判断具体场景，再把责任落回人的行为。
共同守护：开发者 × 使用者 × 监管者
把安全带
扣在全过程
守住数据
脱敏、联邦学习与差分隐私降低个人数据暴露；数据审计发现偏见来源。
守住信息
对幻觉和深度伪造，回到来源、逻辑、交叉验证与人工判断。
守住行动
具身系统用软件、硬件、流程三层防线，明确人类责任与追溯机制。
单选题
8 题
答对 0/8
判断题
5 题
案例：招聘系统
偏见事件
案例：AI 招聘系统的偏见事件
某大型制造企业引入了一套 AI 招聘系统，用于自动筛选技术岗位的求职简历。该系统基于过去 10 年该企业成功员工的简历数据进行训练。系统上线半年后，HR 部门发现：
- 通过 AI 筛选的候选人中，毕业于某几所特定院校的比例高达 85%
- 来自非传统工程背景（如自学转行、职业培训）的候选人通过率极低，仅 3%
- 虽然 AI 筛选的候选人在面试中表现良好，但新员工入职后 6 个月内的离职率反而比之前上升了 12%
经调查发现：该企业过去 10 年招聘的技术岗位员工，确实主要来自那几所特定院校（因为 HR 之前就是优先从这些院校招聘的）。AI 从历史数据中学到了"这些院校 = 好员工"的规律，并自动将其变成了筛选标准。
请回答以下问题：
（1）这个案例中，AI 招聘系统出现了什么问题？问题的根源在哪里？（4 分）
（2）如果你是该企业的 AI 伦理顾问，你会提出哪些改进建议？（至少 3 条，6 分）
参考答案：
AI 招聘系统出现了算法偏见问题。具体表现为：系统过度依赖候选人的毕业院校作为筛选标准，对非传统背景的候选人产生了系统性歧视。
问题的根源在于训练数据中的历史偏见——该企业过去 10 年本身就偏好从特定院校招聘，历史数据已经暗含了这种偏好。AI 不是"发明"了偏见，而是从历史数据中"学会"并"放大"了这种偏见，将其自动化成了筛选规则。
评分要点：准确识别问题为"算法偏见"（2 分），能指出根源是"训练数据中的历史偏见"（2 分）。
参考答案：
- 数据审计与重新平衡：对训练数据进行审计，统计各类背景候选人的分布。如果发现严重不均衡，应补充更多样化的样本数据。
- 引入公平性指标：在模型评估时，不仅看"总体准确率"，还要看"各子类通过率"，发现某类候选人通过率显著偏低需排查原因。
- 去除敏感特征：审查模型使用的特征，将与公平性无关但可能导致偏见的特征从模型中移除或降低权重。
- 建立人工复审机制：AI 筛选作为"初筛"，所有被淘汰的候选人随机抽取 10% 进入人工复审。
- 定期监控与反馈闭环：每月统计 AI 筛选的候选人分布，对比人工筛选的分布，建立偏差预警机制。
评分要点：每条合理建议 2 分，共 6 分。建议需具体可操作，避免空泛。