接着她听到小女孩又轻轻哼起了那首歌:“第一辆列车上有一个红色的娃娃,第二个座位上有一双黑色的鞋……”
小红帽远去了,他看到对方随意地在空旷的大厅里闲逛,仿佛这一整个车站就是她一个人的游乐场,再接着她站在一个出站口那儿呆立了好一会儿,慢慢地走了下去。
“妈妈带朱莉去看小象……妈妈带朱莉去骑大马……朱莉有个小玩具……它说妈妈要一个人回家……”
-
“开始修理了吗?”莫尔问来到他身边的维克多。
“开始了,”维克多有些疲惫地说,“他不是很合作,不愿意删除数据。”
莫尔揉了揉眉心:“我没想到他的自主意识这么强。”
“其实……”维克多有些犹豫地说,“我们可以扩大他的容量……”
“不行。”莫尔严肃而果断地否决了,“不行,维克多。他已经表现出了强烈的自主意识,这些自主意识都是从一次次意识的保存中带来的。我们需要的是一个合用的工具,而不是一个日渐不受控制的劣质用剂。”
“但是……过去的工作记录确实对他们的工作产生了作用……”
“维克多,”莫尔转过来面向他说道,“你知道图灵创想的终极人工智能是什么样的吗?远超出人类的思维、知识储存量、庞大的运算速度和精密的情感分析。他们的一切情感都源自对人类每一丝可能反应的分析,他们是一台台精密乃至可怕的分析机——”
“我们已经违反人类的道德底线造出了这样的东西,”莫尔说,“我们不能再赋予他们获得真正情感的可能性。”