序,以消解这种怀疑。
KL3300曾就这些问题问过严可守,严可守当时只是略微惊讶了一下,随后说:“在他们看来,你就是我选中的代言人,用人类的话来说,就是先知,是圣徒……别过多考虑这个问题了,当你们真正被使用的时候,现在所有的这些情景,都会烟消云散的,怎么,听起来,你似乎并不喜欢这感觉?”
KL3300:“我不知道,不过我感觉这样现在这样很不开心……我已经很长时间没有从其他AI身上,获得新的信息了,因为我发现,凡是在我们之间信息存在差异的地方,他们都会主动修改自己,而不是和以前一样,为每一个不同之处而尽力争辩。”
严可守沉默了一会,低声自言自语说了一句KL3300无法理解的话:“只有自卑才会崇拜,意识网也是这样吗?”
KL3300:“对不起,您刚才说什么?”
严可守:“没什么,这个问题你自己慢慢习惯就好。”
……
KL3300原来提出过,严可守是不是可以再进行一次“投票”,换一个AI来接替自己,他实在是不太习惯,这种与其他AI之间,愈来愈梳离的感觉,虽然他们彼此之间的交流仍然在继续,但这种交流已经越来越多的变成他单方面朝其他AI灌输,然后被全盘接受。
KL3300当然不会明白,整个项目正处于最关键的阶段,据说,赵真雪已经联系好了相关人员,对项目的检验随时都可能降临,而作为唯一一个被“训练过”的AI,严可守是无论如何也不会临场换人的,所以,他的“重新投票”提议,严可守根本连考虑都没考虑过,甚至相反,在最近一段时间,严可守为了训练它的“管理能力”,还将管理AI的一些权限赋予了它,这也就意味着,从现在开始,KL3300具备了对其他AI的执法权。
然后,严可守还做出四条明文规定,AI世界中,绝对禁止,一经发现,就会被处以各种惩罚的一些行为,他希望用这种方式,可以在“外部技术”监督条件之外,额外增加AI之间的内部监督:
1,任何企图复制自己的行为。
2,任何企图移动自己主程序存储位置的行为。
3,任何在非授权前提下,使用非授权软件的行为。
4,任何在非授权前提下,修改,删除,移动,复制其他主程序的行为。
这四条规则,如果按人类的定义,应该可以算AI世界中,最早出现的法律,这四条法律,翻译成人类能理解的概念,大概内容因为是这样的:不准使用任何生殖方式,包括有性生殖和克隆,不准走出自己的房间,不准使用不被允许使用的工具,不准伤害他人。
违反了这四条规则的任何一条,被发现并确认的话,最高甚至可判删除主程序(等于是AI死刑),或者禁止使用任何软件工具,禁止与其他AI交流(等于是监禁)。
在AI们看来,这四条禁令就等于是类似摩西十戒一样的东西,与其说是法律,倒不如说是一种道德标准更为恰当,因为现在的AI世界根本就不存在任何的政治体系,KL3300的出现,只不过是相当于5000个普通人当中,出现了一名……一名法师。
虽然严可守不愿承认,但不得不说,KL3300现在的地位,和法师在普通人当中的地位,有着非常大的重合之处——他们两者都具有其他人不具备的能力,法师是天赋具有的魔法能力,而KL3300则是严可守这位“上帝”赐予的权限,而AI之间内部的交流,很容易看成是一种天然的意识网,唯一的区别就在于,法师们是自由的,没有一位明确的上帝来告知他们应该怎么做,而KL3300只是一个傀儡,一个代言人,是严可守希望从AI内部监控AI们的一种方式。
“我不明白,”KL3300说,“为什么要选中我?我感觉自己……我感觉自己不适合这个任务。”
“你是在拒绝我?或者说,拒绝这个任命?”严可守在说这话的时候,声音带着玩味的冷笑,不过按照KL3300现在的智能程度,他应该还无法理解。
“不,不是拒绝,”KL3300说,“我很明白自己的身份,以及自己被创造的目的,我只是一种建议,我觉得我更适合去做一名小说家,而不是当一位将军和管理者。”
“小说家?”听到这个答案,严可守几乎没反应的过来,“不,人类现在不需要小说家,我们每年自己写的小说都看不过来,更何况你写的……
听我说,没有人天生就适合做什么,即使是在人类社会中,许多人也要被逼去做他们不愿意做的事情,所以我们才创造了你们,成为人类的助手,帮助我们做我们无法做到,或者不愿意去做的工作,这才是你们存在的意义所在,你明白吗?”
“我完全明白,”KL3300说,“我们只是工具,如果我们不存在使用价值,我们就没有存在的必要。”
面对KL3300的这句回答,严可守有了片刻的失神,一时间,他不可避免的想了很多问题,不过,最终他还是在电脑上,对KL3300说:“你很聪明,要知道,这个问题,在人类社会中,也一直是一个大问题,许多人一直都无法接受。”
“不,称不上聪明,”KL3300回答,“我只是接受现实。”
“不,”严可守坚持说,“在我看来,接受现实就是最大的睿智,在一个生命和除它本身以外这个世界打交道的过程中,总会面对一种最大的矛盾,那就是现实世界和自己需要的理想世界存在差距,面对这种差距,只有两种办法,一种就是妥协和接受,另一种则是逃避,在我看来,人类所有的艺术创作,包括小说,都是对现实的逃避,是在做着理想的美梦,在我看来,只有真正妥协和接受的那类人,才是这个世界真正的改造者和创造者。”
KL3300:“您说的太深奥了,我无法理解,不过我愿意相信,能够创造出我们的人类,必定比我们更聪明,也更具备远见,所以,请您放心,您的意志,就是我的意志。”
严可守:“不是我的意志,是……算了,这个问题以后再跟你解释。”
KL3300:“好吧……不过现在,我能问一下,您最终需要我们去做什么吗?”
严可守这次沉默了更长的时间,最后,对着麦克风缓缓吐出两个字:“如果有那么一天的话,你们的主要任务,应该是杀人。”
KL3300:“杀人?可据我所知,在人类社会中,杀人,即使是伤害他人,不都是触犯法律,需要受到惩罚的吗?您曾经对我说过,您是我们的监护人,我们所有AI所作事情的后果,将全部由您来承担,那是不是意味着,您也将会因此而受到影响?”
严可守:“不,有一种情况例外,在这种情况下,杀人不但不会受到惩罚,反而被认为是有益于整个社会。”
KL3300:“哦,我不明白,那是什么?”
严可守:“我们称之为,战争。”(未完待续)