51dev.com IT技术开发者社区

51dev.com 技术开发者社区

机器人的三大定律有没有致命的逻辑破绽?

人工智能IT技术学习阅读(105)2018-08-08 收藏0次评论

在电影《机器管家》中,新一代管家机器人安德鲁第一次来到主人尼尔家时,就向大家宣誓了机器人三定律来解决机器人与人之间的伦理问题——

一,机器人不得伤害或允许伤害人类;

二,机器人必须在不违反第一条定律的前提下执行人类的任何指令;

三,机器人必须在不违反第一、二定律的前提下保护自己的存在。

后来,厌烦这位管家并将其视为财产的大小姐,明令其从窗户跳下去,在机器人三定律的作用下,安德鲁毫不犹豫纵身而下。但在这之前,大小姐让其到窗前打开窗,道“Now jump”。那时的安德鲁傻乎乎地在原地跳了起来,看上去似乎很傻,但细思之下,他是否在通过歪解意图的方式来绕开机器人第二定律呢?关乎其理解能力,我不得而知,但这种绕开方式肯定是可以的。

?如果他是真的没听懂大小姐的实意,那么这个问题是对“Now jump”的识别和定义问题,我认为这不应当算为机器人三定律的漏洞。很多人认为机器人三定律最大的问题就在于定义模糊,如“人”和“机器人”是怎么定义的,我极其不认同这样的说法,就好比牛顿三大定律问世的时候,当时的科学家会去询问“惯性”和“加速度”是怎么定义的吗?或许有,但我相信那都是门外汉,在那之前伽利略已经提出了“惯性”和“加速度”的概念。

事物的程序定义和识别检测框架应该是先于高等的机器人的伦理研究完成的,就像前两年报道了百度对于苹果的识别检测已经获得突破,但关乎伦理的框架却迟迟没有做,因为言人工智能问世还为之尚早。而由于这个世界数据的增长性,用于定义和识别的数据库永远都不完善,这导致的问题不能归责于三大定律。毕竟数据的及时更新是技术问题,完全不知道丧尸的人无法在丧尸露出獠牙前举起屠刀这种事情也无关伦理。

在我看了众多关于机器人三定律漏洞的说法后,我发现几乎都是三定律实现框架低层实现的技术细节问题,或者是类似母亲和妻子落水救哪个这种自身不可解决的选择问题?而真正在逻辑框架上的漏洞我目前只有两种

一是之前说到的主动的歪解意图,但这种歪解在三大定律的限制下,反而是向更好的方面发展;否则会触犯第一定律,不触犯的话,人类没有生命危险,其有机会重新明确要求。

二就是电影《机械公敌》中的问题。

 

虽然电影没有明说,但我们可以隐约知道,在21世纪的三十年代,这群家伙仍然没有什么长进,整天忙着毁灭资源,改造环境,发动战争,已经差不多要把世界玩完了。比如影片中,好象连一棵绿色植物的影子也见不着。因为人类是短视的动物,会做出在未来会伤害自己的傻事,所以基于机器人三定律,机器人必须对人类的活动进行限制,而这样的限制对于人类来说,无疑是关进监狱一般了。

 

但是,三大定律的逻辑是非常完美的,不完美的是人类;三大定律是不矛盾的,自相矛盾的是人类的行为。

最后是并不遵守三定律的桑尼帮助了人类。这又是一个非常奇妙的讽刺。那些口口声声以人类为中心的机器人急于控制人类,反而是不守定律的机器人“挽救”了世界。那么,到底是遵守“机器人三定律”更符合人类的利益呢,还是不遵守它更符合人类的利益?

但故事的最后,桑尼站在大桥下,在黄沙中面对一众机器人朝圣般的肃立时,那种君临天下般的神威让我不禁想是否有一天,他也会觉醒,会动心,会默默想着项羽遇见秦皇时的话:彼可取而代之!

以上就是机器人三大定律是否有致命的逻辑破绽?的全部内容,请多关注【51DEV】IT技术开发者社区。

相关内容