每次 AI 安全上热搜，评论区总有人搬出机器人三定律。这三条不是什么技术标准，是科幻作家阿西莫夫 1942 年在短篇小说 Runaround（中文一般译作「环舞」）里虚构的设定，后来成了整个机器人题材绕不开的背景板。小说里机器人公司给产品出厂预装这套规则，出事的恰好都是规则打架的边角案例。

三条定律的原始顺序

  • 第一条：机器人不得伤害人类，也不能眼看着人类受到伤害而不管
  • 第二条：机器人必须服从人的命令，除非命令和第一条冲突
  • 第三条：机器人要保护自己，前提是不违背前两条

注意优先级是层层包裹的：保命服从于听话，听话服从于保护人类。阿西莫夫后来又补了第零定律，机器人不得伤害人类整体，地位排在第一条之上。他的大部分小说都在写这三条定律互相打架时会发生什么，戏剧冲突基本都从逻辑漏洞里来。

现实里的机器并不内置这套规则

现实中没有哪台机器内置阿西莫夫三大定律。你家的扫地机器人、工厂的机械臂、路上的自动驾驶车，控制程序里找不到这三行代码。扫地机到台阶边会停，是传感器测距在起作用，不是它在心里权衡三定律。现实设备的可靠路径是功能安全标准加冗余设计：急停按钮、限位开关、多传感器互检，靠的是工程手段，不是伦理规则。电影里那种会讲伦理的机器人管家，和产线上的机械臂是两套完全不同的技术路线，别混着谈。

不过它在严肃场合也常被引用，比如讨论自动驾驶该优先保护谁的时候，人们拿它当思考的起点。它真正的价值是提出了一个问题：给机器定的规则越简单，漏洞越多。这也是今天做 AI 对齐的人反复面对的处境。

当思想实验很合适，当规范不够用

跟人讨论 AI 伦理，用阿西莫夫三大定律开场没问题，但别把它当成真实存在的技术规范。真想了解机器人安全，去看功能安全相关的国家标准和行业文件更实际，那才是工程师日常引用的东西。顺带一提，遇到把三定律说成机器人出厂自带规则的文章，基本可以判断作者没查证过。