第五百三十七章 作为生命体最致命的弱点(1 / 3)

次元法典 西贝猫 1524 字 2021-03-01
请收藏本站,并多收藏几个备用站点:

虽然眼下这个只有十岁的女孩看起来有点儿不靠谱,不过方正还是把解说员妹子的身体交给了她———毕竟只是保养维修而已,而且从那条狗来看,那个世界的科技能力也算是相当不错,只是单纯的维护工作应该没有问题才对。

而方正则回到了自己的房间里,开始对解说员妹子的程序进行解析。

他之所以打算由自己来做这件事,而不是交给妮姆芙,原因就在于方正想要通过这个解说员妹子的程序,来进行解析,并且对人工AI方面的制造进行一些调整。而且,他也希望能够看看其他世界对人工AI的技术发展到了一个什么层次,虽然不是说全部借鉴,但是他山之石可以攻玉嘛。

“星野梦美吗………”

看着屏幕上显示的档案名称,方正陷入了长长的思考之中,解析程序本身并不困难,方正本身复制了妮姆芙的电子入侵能力,而且这段时间他也一直在妮姆芙那里学习这方面的知识,因此对于解析程序本身到没有耗费太多的时间。

但是,当方正拆开了星野梦美的程序核心,将其中的功能重新分解为一行行代码的时候,他却是忽然想到了一个非常特别的问题。

人工AI的危险性究竟在哪里?话说回来,人工智能真的很危险吗?

以这个解说员妹子为例,方正可以很容易在她的程序之中找到机器人三定律的底层指令代码,而且这些代码之间的关系,也已经向方正证明了,之前和他说话交谈的,并不是一个活生生的生命,只是一个机器人。她的一举一动,一颦一笑,都是由程序控制,通过分析眼前的场景,然后做出自己能够选择的最优先举动。

说白了,从本质上来说,这个妹子的做法,其实就和那些流水线上的工作机器人,或者游戏里的NPC没什么区别。你选择行动,它会根据这些行动来做出反应。就好像很多游戏里,玩家可以根据自己的行动来增加善良或者恶意值,而NPC则会根据这些累积的数据产生反应。

比如可以设定当善良值到达一定程度时,NPC可能会对玩家提出更加过分的要求,也可能更加容易让玩家通过某个区域。而反过来,如果恶意值到达了一定程度,那么NPC可能会更容易屈从于玩家的某些要求,或者制止玩家进入某些区域。

但是这与NPC是否喜欢玩家毫无关系,因为数据是这么设定的,它们本身并不存在这方面的判断力。也就是说,如果方正把这个数值的范围换一下,那么人们就可以看见一个NPC对恶贯满盈的玩家笑脸相迎,而对善良老实的玩家不闻不问。这也同样和NPC的道德价值观毫无关系,因为这就是数据设定。

那么,再回到之前的问题,方正承认,他和星野梦美的第一次见面蛮有戏剧性的,而且这个解说员机器人妹子也很有趣。

那么我们来做一个比方,如果在这个解说员妹子把那由一大堆不可燃垃圾制造的花束送给方正时,方正忽然勃然大怒,把那个垃圾花束给砸成碎片,然后直接把眼前这个机器人妹子切成两半,那么这个机器人妹子会是什么反应呢?

她不会哭,也不会生气,根据她的程序设定,她只会向方正道歉,并且认为是自己错误的举动导致客人对她产生了不满,或许她还会请求方正找工作人员对其进行维修。

这一幕如果看在其他人眼里,当然会觉得解说员妹子可怜,而且认为方正是个讨厌的恶霸。

那么,这种差异是如何产生的呢?

从本质来说,这个解说员机器人其实就和自动门,自动扶梯等工具一样,是通过设定程序来完成自己本职工作的。如果一扇自动门出现了故障,该开门的时候不开门,或者当你走过去的时候“啪”的一下关上了。你肯定不会认为那扇自动门很蠢萌,只会想着快点儿打开它。如果打不开,他可能会砸烂那扇破门,然后扬长而去。