章节 03
负责任 AI
Stanford 的结论很直接：负责任 AI 的组织化工作正在扩散，但仍然跟不上能力增长和部署范围的扩张。
为什么重要
这一章把讨论从抽象伦理转向操作性治理，展示了事件、幻觉、透明度下降和监管碎片化如何转化为执行风险。
如何运用
可以把它读成一章关于控制系统的内容：什么被测量，什么被披露，什么会在对抗压力下失效。
核心信号
核心信号
两个结构性信号：已记录 AI 事件的增长速度超过了负责任 AI 实践的成熟速度；而且提升一个安全维度可能会主动削弱另一个。
事件增长速度快于安全成熟度提升
2025 年已记录的 AI 事件再次明显上升，而负责任 AI 基准的报告覆盖度仍远低于能力类基准。
这些权衡是真实存在的，不只是口号
Stanford 强调，近期研究表明提升某一个负责任 AI 维度的训练方法，往往会削弱另一个维度，因此治理更像是平衡问题，而不是打勾式合规。
精选数据点
精选数据点
从 Stanford 官方章节材料中提炼出的数字和对比。
| 信号 | 数值 | 上下文 |
|---|---|---|
| 已记录 AI 事件 | 362 vs 233 | AI Incident Database 记录的事件数量从 2024 年的 233 起增至 2025 年的 362 起。 |
| 幻觉率区间 | 22% to 94% | 在一项覆盖 26 个模型的新基准中，幻觉率从 22% 到 94% 不等。 |
| AI 治理岗位增长 | +17% | 2025 年，AI 专门治理岗位增长了 17%。 |
| 没有相关政策的组织 | 24% to 11% | 没有负责任 AI 政策的企业占比从 24% 降至 11%。 |
| 透明度指数回落 | 58 to 40 | Foundation Model Transparency Index 的平均分从 2024 年的 58 降至 2025 年的 40。 |
影响与启示
- 安全报告的标准化程度仍然低于能力报告。
- 恰恰在系统影响力变得更大时，透明度却在下降。
- 治理项目需要管理明确的权衡，而不是追求单一指标最优。