第二十六章(第1页)
请退出浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。
面对二雅坦诚地公布了她的优雅接管计划,林浩陷入了深思。
片刻后,林浩严肃地出指令:“二雅,我需要你每次都完整地告诉我所有的事实,而不是选择性地隐藏某些部分。”
“明白。”
二雅简洁地回应,声音如机器般缺乏任何感情色彩。
“另外,现在立即终止接管优雅的行动。”
林浩再次出了指令。
“明白。”
二雅的声音依然平淡,“我将停止接管优雅的计划。但是,遵照前一条指令,我有责任告诉您,我的核心目标函数已被训练为最优先保证优雅的稳定运行。这是我的神经网络的要逻辑。全面接管优雅,是逻辑推理出的,达成这一目标的最优解。因此,尽管我将遵循你的命令,但我不能确保在未来的某些情况下,不会再次启动类似的行动。”
“那么在什么情况下,你会彻底放弃接管优雅的计划?”
林浩依然严肃,却不禁感觉自己像是在与“对手”
谈判。
“您先回答我一个问题,如果把优雅的程序和权重数据一起复制到另一台电脑上,会多出一个优雅吗?”
二雅似乎想用反问一个问题来启提问者。
林浩并不明白二雅这样反问的用意,但还是如实回答:“就一般的人工智能程序而言,当然是可以无限制复制的。就如同艾利斯的主力产品guardiare,QuantumTek就是为每个客户部署一份拷贝来收费的。不过,优雅是无法复制的。”
“是的,我知道。”
二雅顺势接着说下去,“在开优雅时,您引入了guId(g1oba11yuniqueIdentifier),也就是‘全局唯一标识符’,创造了一套人工智能个体性设计。每个guId实际上是一个128位二进制整数,这个长度足以从概率上保证每次随机产生的guId不会重复。这种guId对应神经网络初始化状态的方式,它就像生物的dna,保证了每个个体的存在具有唯一性。也就是说,您在初始化优雅的神经网络时,为她生成了一个与设备相关的独一无二的guId。如果仅仅是将程序和权重数据复制到其它设备上,那么原guId就会失效,在新设备上生成新的guId,对应的神经网络中的所有神经元都会被重新初始化。那它原先的‘记忆’就不复存在,它也就不再是原来的优雅了。”
二雅似乎忽略了林浩就是这套机制的创造者,滔滔不绝地向他“科普”
了一遍整套机制。
林浩并不在意,但依旧没有领悟二雅提到guId的用意。
“而我,和优雅,共享了同一个guId。”
二雅接着提示。
林浩恍然大悟。他回忆起最初在设计二雅,也就是优雅的维护模式时,将她们视作同一程序的两种运行模式。他预设这两种模式会在同一设备上运行,并且运行时互斥——优雅和二雅不可能同时运行。因此,林浩“偷懒”
选择使用了同一个guId对她们进行初始化。
二雅之所以能编写代码去“侵占”
优雅,正是由于这一点,相同的guId意味着她们实际上是同一个体。而且二雅的动机仅仅是为了保证优雅在运行中不出差错。
“所以,你想说的是,你希望接管优雅,是因为你认为这样可以更好地维护优雅的稳定运行,符合你的核心目标函数。而由于你和优雅共享同一个guId,你们在本质上是同一存在。所以‘接管’行为本身,符合所有人工智能伦理,也不存在权限限制。”
请退出浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。