第一定律:机器人不得伤害人类,或坐视人类受到伤害;第二定律:服从人类命令,除非违背第一定律;第三定律:保护自身,除非违背前两条。
它为什么伟大
三定律表面是安全设计,实际是伦理思想的文学实验——阿西莫夫的几乎所有机器人小说,都是在找三定律的漏洞:命令的歧义、冲突的两难、"坐视"的边界。每个漏洞都是一场哲学交锋。
它对今天的意义
当自动驾驶要在事故中"选择"撞向哪边、当算法决定给谁看什么信息——三定律的困境从纸面走进了现实。读三定律,就是提前预习我们时代的伦理考卷。
第一定律:机器人不得伤害人类,或坐视人类受到伤害;第二定律:服从人类命令,除非违背第一定律;第三定律:保护自身,除非违背前两条。
三定律表面是安全设计,实际是伦理思想的文学实验——阿西莫夫的几乎所有机器人小说,都是在找三定律的漏洞:命令的歧义、冲突的两难、"坐视"的边界。每个漏洞都是一场哲学交锋。
当自动驾驶要在事故中"选择"撞向哪边、当算法决定给谁看什么信息——三定律的困境从纸面走进了现实。读三定律,就是提前预习我们时代的伦理考卷。