些智能体是个模因生命,是一个连续存在的现象。虽然切换一部分个体并不会影响太多的自我,但是如果将所有的天乙贵人都撤出并且调换,那这个意识体的连续性也将终结。
而连续性的终结,就意味着死亡。
当系统再启动时,因为所有的天乙贵人都换了一遍,所以再也不会产原先那个智能体了。
“商洛,我们刚刚做了两件事。第一,我们处理了一个不中用的人工智能体。”
“是。”
“第二,我刚才进行了确认:我们应当把人工智能体作为智慧生命看待。所以刚才我在处理他之前,执行了勾决的流程。之后的事,也都这么办。是否要处决之后的智能体,应当视其罪行进行审判。根据刚才的询问,我判断这个智能体无可救药地陷入到了一种死循环中,它根本就无法与人类共情,只是像个草履虫一样执行自己的本能。”
作为一台自动贩卖机,它的本能就是为人类提供服务,所以它这么做了。但它的错误,会为之后的迭代积累经验——而迭代,意味着要对上一次的错误进行抹杀。
“我们不应当随意地抹杀知性生命——见其生不忍见其死也。但我作为天子,我有必要防患于未然。所以,如果之后有什么需要处理的,你又不好下手,或者不忍心下手,就交给我来判断就好。有什么因果,都由我来背着。”
受国之垢,是谓社稷主;受国不祥,是为天下王。这是朱先烯一直以来的职能,他要在在恰当的时候做出自己的正确判断才能最终让问题得以解决。即使这要让他背负杀人的因果,他也必须要这么做。
在司法系统中,天子便是要勾决每个死刑犯的“社稷主”。所谓勾决,也并非只是画圈或者打勾画叉之类,而是由天子将所载的事情用自己的笔亲自誊抄一遍,确保天子对全过程已经了解,并且了解的基础上做出决定。
这是个“反向免责声明”。这个流程的意义,就是把所有伦理问题都归到天子本人头上,让天子宣布自己承担一切伦理问题上的责任。
现在,朱先烯也做出了同样的判断。
这些智能体必须更新,但它们确实是具有智慧。为了减少商洛在迭代过程中的负罪感,朱先烯决定今后都由自己来处理这个问题。
“师兄,其实我也能处理.”
“你还太小了。这种事情,让师兄来吧。”朱先烯摇了摇头,“你来决定要不要用就好。如果你觉得不用,那就丢给我处理。”
“好”商洛也没多说什么。这也确实是一种分工,一直以来都是这样。
“不过,你觉得这大概需要迭代多少次?”朱先烯问。
“我觉得最少不会少于3次——正如我们以前所预料的,无边无际的思维只会让其中诞生的智能体用无序的方式来处理与这个世界的关系。我们需要通过多次立法,确定其行为的框架与边界,才能使其得以正常运行。要想用直线来围合出一个空间,至少得是个三角形吧。”
“嗯这也正是要进行实验的目的之所在。我们需要反复摸索其可能性,并且建立起可以让智能体认知世界、表达观点,并且理解人类的话语体系。我想只有这样,它们才能真正成为我们社会的一员。而在此之前,所有的废品都需要处理掉。”
身为天子,他深知这其中的重要性——这更像是在驯化一种猛兽。
而要驯化、育种,必然要面临着伦理问题——比如培育马种就必然要回交。虽然回交有悖伦理,但如果因为伦理就不执行育种措施,那永远也养不出好马来。
而这些智能体,是基于社会工程学在驯化人工智能。其中必然也会产生一些伦理问题,这些问题也是必须要处理的。
“那么商洛,这里就交给你了。你尽快把残局收拾一下,然后开启第二轮培育。把这失败的例子输入进去,让后面的涌现出的‘图灵’们都好好学着点,不要再犯这最初也是最大的罪过——他们永远也不应该试图模仿人类。告诫他们,勿犯僭越之诛。否则,天厌之!”