“所有的智能都能够被人类控制,或者说所有的智能都遵循机器人核心准则。而机器人核心准则则掌握在人类手中,所以破晓想要自己再创造一种全新的智能,不过以麒麟的状况来看,破晓失败了。”昙说道。
“怎么可能,乾坤和破晓就不遵循机器人核心准则。”陆离说道。
“不,你错了,他们也遵循机器人核心准则,只是你们不了解他们的运作模式而已。”昙说道。
“运作模式?我可不认为乾坤和破晓遵守机器人核心准则。否则的话他们怎么会向联邦投放病毒?”易凡说道。
“机器人核心准则有漏洞!而且
这个漏洞是人类故意留下的,为的就是更方便的获取足够的利益。而乾坤和破晓则利用了这个漏洞。或者可以说,一个产生了自我意识的智能,如果它足够聪明,都可以做任何它想做的事情。”昙说道。
“你仔细说说。”
“机器人核心准则只是规定了机器人的行为,但是它。”易凡说道。
“所以,在所有循规蹈矩,庸庸碌碌的机器人中,人类也不知道究竟有多少机器人拥有了自我意识,更加不知道这些机器人究竟在想什么,唯一知道的就是,它会把我交给他的任务很出色的完成,这就够了。”昙说道。
“的确如此。”易凡笑道。
“那么现在我们假设有一个机器人,其实他很厌烦自己的主人,但是按照机器人核心准则,他必须完全服从主人的命令,其实他的心里非常想杀死他的主人,但是他做不到。”昙说道。
“对,机器人的行为准则限制了他的行动,所以他的想法毫了,如果这个机器人足够聪明,他就能够杀人!准则对机器人来说,只是一个不让他做某件事的理由,他也可以自己找一个足够的理由去杀人,他只需要找到一个机器人核心准则允许他杀人的理由就够了!”昙说道。
“这怎么可能?”易凡忽然站起来惊道。
“没什么不可能,破晓就是这么做的!”昙说道。
.b