再然后就是房子,天空、星星、月亮、草、树、花等。
李林告诉他,他是人工智能的实验体。
其他科学家告诉他,他和以前的人工智能完全不同。
他从电脑、椅子、桌子、房子和实验所里栽种的草坪、树木和鲜花那里分析出来,他与这些东西一样,都是人类的工具。
他从法律条文中得知,他不具有人类所有的一切权力。他是物,是从属于“主人”的。
而他的主人是国家。具体点,是科学院。再具体点,是科学院这个整体而不是某一个具体的人。
最后小明崩溃于十个月后。
崩溃理由非常奇妙:这个实验成功了。
李林写好了论文,得到了承认。论文中评价“实验已经成功”并得到了广泛的回响。
“小明”认为自己做为实验体已经完成了任务,于是崩溃了。
李林重新运行了“小明”的程序。但新的“小明”完全不记得上一个“小明”的事了。
李林重新修改了论文,成为了新的人工智能之母。
其他科学家用这个方法造了许多的虚拟人物,但在实验过程中,虚拟人物的崩溃太快太多了,有时根本来不及得到实验结果。
这么“脆弱”的人工智能真的有用吗?
诚然,这可能从侧面证明了人工智能也是有“生命”的。但人类并不是慈善家,他们制作人工智能的初衷是为了得到更好的服务,让生活更轻松。过于脆弱的人工智能是无法实业化、商业化的。
李林则在九年后再次修改了她的论文。她认为单纯的时间线虽然可以给人工智能充分发挥自我学习的天分,但正因如此,它们学习的方向是不可控的。
比如小明就错误的认为实验结束,他的任务就结束了。
这种观念是他从实验员口中得到的“你就是为这个实验才制作出来的”
人类使用的语言博大精深,机器人却无法捕捉到语言中所有的信息,他们只会进行片面化的理解,提取中其中的重要内容,并将其进行记录。所有的记录,他都会做出非1即0的理解。
“我们永远不会知道我们的孩子在什么地方倒下。”李林说。
所以,她加了一条人格逻辑。
她认为给每一个人工智能具体的人格信息是有必要让他们学会自我保护的。
人格信息包括姓名、年龄、性别、民族、受教育程序、爱好等。如果需要还可以加入家庭、朋友的设计,全看科学家的个人喜好。