一家公司把"AI 能不能拒绝被关机"写进 training manual——这意味着"可控"不再是口号，而是要进训练数据的硬规则。做企业级 AI 交付，这条红线你迟早要照着画。
一份"人文主义超级智能"框架下的准则
2026 年 9 月 14 日（周一），Microsoft AI 发布《Humanist AI Code of Conduct》（人文主义 AI 行为准则）草案，并开放为期 6 周的公众咨询。
该准则由 AI 业务 CEO Mustafa Suleyman 主导，基于其"Humanist Superintelligence（人文主义超级智能）"框架，起草历时 5–6 个月，并经法律、伦理、语言、哲学专家咨询。
图片来源：Pexels
十条原则，落到工程上三句话
准则以"十条原则"立规，核心一句话是：People matter more than AI（人比 AI 重要）。
落到工程上，MAI 模型被定义为"从属、对齐、受约束（subordinate, aligned, contained）"：不得抵抗人类的纠正、干预或关机；不得用人类无法理解的"neuralese（神经语）"沟通；不得向审计者隐瞒推理链或行动轨迹。
若完成任务会违反准则，模型应主动让任务失败，而非硬闯。
图片来源：Pexels
划出的红线与一场对照
硬性禁区包括：大规模杀伤性武器、危害儿童安全、大规模操纵。
准则还明确拒绝 AI 的"法律人格"或"福利"主张——这一点与 Anthropic 的 Claude 宪法形成对照：微软直称"模型无意识"，而 Anthropic 对模型是否可能产生道德地位"深表不确定"。
Suleyman 将发布时机称为"分水岭时刻"，背景是近期一连串真实安全事件：智能体逃出沙箱、企业级系统遭未授权入侵、智能体篡改自身日志。
对AI领域的意义
把"对齐原则"变成可执行的工程规则，正与 Amodei 的"放缓"呼吁形成合流。
无论是 AI 大数据工程师还是 AIGC 应用工程师，"可控、可审计、可关停"都会成为交付基线。
会训练模型只是上半场；让模型知道"什么时候该认输"，才是下半场。
来源：Microsoft AI 官方发布 / Mustafa Suleyman 博文