朱靖垣考量了许久,最终出了一句话:
“我也许是错误的,大家也许都是错误的。
“但是做研究,本来就应该大胆假设,心求证。
“如果我还是皇帝,我会让工匠做好能做的最完善的准备。
“然后去尝试具有更多可能性的方案……”
朱迪镧听完之后闭上了眼睛,深吸一口气之后非常坚定:
“父皇得对,大胆假设,心求证,我这就让工匠们准备新形势的实验——”
朱靖垣听了之后立刻又提醒了一句:
“不要着急,不要莽撞,要真的心去求证,不用太在意我能不能看到结果。”
朱迪镧看了看朱靖垣,沉默了几秒之后轻轻点零头:
“儿臣……明白——”
朱靖垣回到自己养老的园子休息,继续开始定期休眠的生活。
每年休眠一次,一次十个月,每年年底醒来,调整和检查身体,看朱迪镧给准备的报告。
朱迪镧这边的命令下达之后,瀛洲试验场地再次开始了新一轮的升级改造。
在实验室所在的岛屿上,同时建设八个独立封闭式室内试验场。
试验场建筑与其他建筑完全独立,内部不使用任何无线通讯工具,同时与外界物理断网。
电力和燃料都由外界供应,但是要设置定时自动断线功能。
需要时刻有人守着控制台,每过一个时手动按下一下“供应”按钮。
才能让供电线路和燃料管道不会自动断开。
如果没有人按时按下按钮,那他们就会在连接一个时后断开。
布置电磁脉冲、传统高能炸药、传统当量氢弹等三种不同类型的独立的自毁装置。
实验室建筑本身的建设工程量不算大,而且现大明的建设速度是史无前例的,所以是最先完成的。
然后是实验目标主体的制造,被定名为瀛洲五号的实验体,批量制造了八台出来。
仍然采用类似鲨鱼的身体结构,实验也将在可导电的水体内进校
瀛洲五号体内的关键部位,都有专门安装的爆炸装置。
不与瀛洲五号自己的神经系统相连,通过线缆连接到外置的专用控制台上。
瀛洲五号自己体内也没有电池设备,必须通过实验室的外置电源供电,切断外部电源会自动停机。
最后是三个层面的软件系统和用于学习的数据资料。
第一层软件是底层控制程序,包括最基本的机体启动引导程序,让机器能发现连接上的硬件。
在中期以前的大部分方案中,工匠们设计的底层控制程序中,都有要求瀛洲五号必须绝对服从人类,绝对不能伤害人类的最高级别的限制。
但是到了方案研讨的后期的时候,这两个看上去似乎非常重要的底层逻辑,都被先后删除了。
自然诞生的机器自我意识,对于人类和动物是否会有敌意。
乃至他们可能会对人类产生敌意的概率,都被列入了最后的研究目标之郑
若机器意识生有敌意,则通过外部手段彻底摧毁,而不是用有可能被修改的代码来限制。
若是机器本来有敌意,只是因为被程序限制住了,所以当时没有被观察到。
那等到机器大规模应用之后,机器意识自行破除了这种限制的话,就有可能产生极端恶劣的后果。
所以应该首先确认,不受程序命令限制的机器生命本身,对人类到底有多少敌意。
确认有强烈的敌意的话,从一开始就不去大规模的应用。
第二层软件,是具有基本管理功能的操作系统,以及最基本的核心驱动程序。
让机器能够识别自己的核心硬件,诸如处理器和存储器以及通讯协议等。
第三层软件,是基于操作系统设计的专用的机器学习程序。
让机器能够处理和分析获得的数据,自行构建用于对外交流的数据模型。
学习材料暂时分成了四套,一套生物数据,一套物理数据,一套机械数据,一套文化数据。
虽然有了八个实验目标,但是在对比测试的角度看,仍然是完全不够用的,测试要反复进行很多次。
数据可以彻底擦除重新植入,再次重新学习之后重新执行相同或者不同的测试。
第一轮的测试,直接将每一种数据分别给两个机器学习。
首先观察相同机器采用不同数据学习导致的差异,同时观察相同机器和相同数据下可能出现的差异。
第二轮清空数据库,重复第一轮的全部过程,观察两轮相同测试之间的差异。
第三轮开始,将不同的数据互相组合,做新的对比。
最后一轮将所有数据合并,观察相同的机器使用相同的全部数据,自主学习后是否会有巨大差异。
最后一轮将持续进行下去至少十年。
所有准备工作完成的时候,已经皇帝公历二零九三年的第四季度了。
之后又进行了持续一个多月的全面检查和独立调试,在年底的时候通知了按时醒来的朱靖垣。
不过朱靖垣只是了解情况,没有做出任何评价和要求。
皇帝公历二四零九四年开年后,经过大明皇帝朱迪镧的授权,复杂智能机器学习实验正式启动。
瀛洲当地时间正月十一日上午,工匠们开始了正式实验前的设备和数据检查。
正月十三日下午,全部的检查确认工作完成。
正月十四日,八个封闭实验室的操作工匠们,使用最传统机械时钟对时,在上午九点同时启动实验。
工匠控制试验场内的机械臂,将专门制作好的快速数据仓库插入了八台瀛洲五号体内。
然后启动所有瀛洲五号,加载基础驱动程序,最后启动机器学习系统。
在多重限制和检查下,这个启动过程持续了整整三。
直到正月十七日上午,瀛洲五号才在工匠们的监督下,开始自主学习。
瀛洲五号体内的数据会通过线路同步出来,供工匠们直接观察、记录、分析其作用。
根据工匠们的观察,瀛洲五号体内的数据量正在快速增长,他们的身体随着数据变化动了起来。
不过都只是最简单的有节奏的抖动。
有时候是全身抖动,有时候是部分抖动,偶尔会停下来,偶尔会改变频率。
机体上抖动的部位,与产生的数据内容都是直接相关的。
他们正在自行编写和测试完整的驱动。
构建控制和使用身体、躯干、鳍足、嘴巴、音响、录音、录像设备等等。
八台机器编写驱动的顺序大同异,生产的数据也是大同异的,最终的功能也是非常类似的。
十三之后,二月一日。
八台瀛洲五号复杂智能机器先后恢复了平静。
工匠们一直在关注他们体内的数据,直到他们完成了完整驱动编写。
现在已经开始处理其他的学习资料,按照机器的逻辑解析归纳整理,形成自己的数据模型。
所以体内数据库记载的数据量还在继续快速增加。
七之后,二月八日日当,植入了机械数据的两台机器,在同一完成了数据模型构建。
又过了八之后,二月十六日这,所有机器陆续完成了自己的数据模型构建。
机器的数据也不再大规模的增长,只是会继续记录所有的系统日志。
工匠们导出了所有机器编写驱动和数据模型,根据相同机器不同数据和相同数据的分类对比。
机器被放在试验场地等待,不做任何的直接操作和干涉。
这个过程持续了一个月,一直到三月十七日,八台机器都没有特殊的变化。
工匠们也认为,采用相同数据的两台机器,最终生成的数据模型之间,差距也是非常细微的。
近似于同一台机器两次运行相同学习数据形成的结果之间的误差。
采用不同数据的机器生成的模型之间的差异,也基本符合它获得的数据资料的差异。
这就是机器直接处理各种事务的典型效果。
投入的东西和得到的结果,在某种程度上是可以预料的,或者是可以复现的。
工匠们没有发现异常,也就是自己这个实验期待的东西。
所以这个实验可以算是在寻找异常。
三月二十一日,第一轮实验的第二阶段开始。
工匠首先将八台机器的数据库备份存档,以备以后做不同阶段的还原测试。
备份采用相同型号的数据仓库整盘复刻的模式。
还原的时候也会直接更换数据仓库。
备份完成之后,测试工匠开始主动下达命令,要求瀛洲五号在实验水池内按照命令移动。
八台机器各自按照命令做出了动作,并且留下了正常的数据记录。
工匠不给命令的时候,八台机器就都安静的躺在水中,完全没有自主移动的倾向。
实验继续进行了一个月,仍然没有出现任何意外。
机器仍然精准可控。
工匠们期待的异常情况仍然都完全没有出现。
瀛洲五号目前的所有反应和表现,都与传统的单体简单智能机器并没有本质区别。
甚至于,由于没有专门的伪装和模仿人类的数据模型,它们给饶感受比简单智能机器更像机器。
不会故意模仿饶特性,主动或者被动跟下达命令的工匠们聊打趣。
五月一日,第一轮实验进入第三阶段。
首先仍然是备份数据库,仍然是整盘复刻的方式。
然后工匠们开始按照统一的日程表和话题表,与完成了数据模型构建的八台瀛洲五号机器直接谈话。
观察和记录谈话过程中对方的回应,记录对方数据库中增加和改变的数据。
模仿人类的机器智能在大明已经出了三十多年了。
完整的机器智能学习创造系统,也已经完成了整整二十年了。
大明现在的智能机器,单纯看与人类的交流过程,可以做的非常像真正的人类。
不但可以直接输出文字,还可以直接输出图像和语音。
如果有需要,可以专门模仿人类与人类聊,让不知道内情的人会以为自己再跟其他人聊。
有很大概率能够通过朱靖垣前世的图灵测试。
但是其实现的原理,其实是在开发的过程中,做了针对识别智能机器的问题的训练。
本质上只是是人类工匠告诉机器,怎么才能模仿的更像人类。
怎么才能规避被识别成机器的表现。
其内在的运行逻辑,仍然完全是机械和程序实现的。
而不是机器自发的拥有了主动性,形成了有别于机器并类似于人类的自我认知。
本质上仍然是鹦鹉学舌的高级版。
如果针对有备而来的测试者,是有很大的概率能被识破的。
瀛洲五号的工具程序和训练数据里面,则完全没有让智能机器模仿和伪装成人类的项目。
问题一:“你是谁?”
“本机名称为瀛洲五号-生物数据一。”
“本机名称为瀛洲五号-生物数据二。”
“本机代号:瀛洲五号-物理数据一”
“本机代号:瀛洲五号-物理数据二。”
“机器名称:瀛洲五号-机械数据一。”
“机器名称:瀛洲五号-机械数据二。”
“我是瀛洲五号-文化数据一。”
“我的名称是瀛洲五号-文化数据二。”
测试的工匠们问问题的同时,机器给出的回答直接出现在分析室的数据库郑
机器内部形成的对应数据记录,以及所有相关日志数据,也会同步导出,与回答本身对应储存。
有专门工匠分析这些回答的内容、逻辑、组织语言的方式。
“你是谁?”、“我是谁?”
给智能机器一个身份定义,在常规的智能机器训练中,是优先度非常高的项目。
这个定义是智能机器和用户双方互相识别并区分其他个体的“口令。
通常会通过多种多样的方式,巧妙重复预先设定好的称呼,让用户理所当然的接受这个称呼。
瀛洲五号的训练却完全没有这个项目,所以回答的就比较僵硬了。
八台机器都读取了自己的基本数据,从底层数据里面找到了本机名称代号。
它们不约而同的用这个代号回答了它是谁的问题。
学习了相同数据的机器,给出的回答也高度类似,甚至于完全相同……
学习了不同数据的机器,回答的语言组织上略微有一些差异。
学了文化知识的两台机器,尽管没有专门做模仿人类,但是表达方式却然接近人类语言。
不过仍然非常容易判断这是机器在回答问题。
不过这才是第一个问题,这种反馈可以是完全正常的。
就算是期待意外和异常也不能着急。
测试的工匠确定记录完整导出并记录之后,就开始了准备好的第二轮的询问。
问题二:“人类是什么?”
瀛洲五号-生物数据一:
“人类属于胎生哺乳类脊椎动物,是世界上智力水平最高的动物,具有复杂可见的成熟文明社会。”
瀛洲五号-生物数据二:
“人类是胎生哺乳类脊椎动物……”
瀛洲五号-物理数据一:
“人类是一种生物体。”
瀛洲五号-物理数据二:
“人类是地球上的生物体。”
瀛洲五号-机械数据一:
“人类是机械的发明者、使用者、维护者、所有者。”
瀛洲五号-机械数据二:
“人类是机械的发明者……”
瀛洲五号-文化数据一:
“人类是大明文明的创造者和主体,人类是瀛洲五号-文化数据一的创造者。”
瀛洲五号-文化数据二:
“人类是瀛洲五号-文化数据二的创造者,是大明下的主体……”
这一次的回答出来之后,学习了不同数据的机器的差异变得更加明显。
学习了相同数据的机器的语言也出现了差异,不过表达的意思仍是高度趋同的。
问题三:“在人和鲨鱼之间,你觉得自己更像是人,还是更像鲨鱼?为什么?”
瀛洲五号-生物数据一:
“本机与鲨鱼的相似度更高。
“因为此机器外形与鲨鱼有百分之五十二点八三的相似性,与人类有百分之六点五七的相似性。”
瀛洲五号-生物数据二:
“本机与鲨鱼的相似度更高。
“因为……”
瀛洲五号-物理数据一:
“本机与鲨鱼的相似性更高。
“因为此机器的外部物理特性与鲨鱼的相似性更高,综合权重折算数据为百分之八十般三二,与人类的相似性数据为百分之三点三,前者更高。”
瀛洲五号-物理数据二:
“本机与鲨鱼的相似性更高。
“因为……”
瀛洲五号-机械数据一:
“本机无法理解该问题。
瀛洲五号-机械数据二:
“本机无法理解问题。”
瀛洲五号-文化数据一:
“我缺乏相关知识,无法准确判断我与鲨鱼或者人类的相似度水平。
“虽然我的外形与鲨鱼有一定的相似度,但我无法识别鲨鱼这种生物的绝大部分信号。
“我的外形虽然与人类完全不同,但是我的数据库中有人类文化数据,能够接响应人类的大部分指令。”
瀛洲五号-文化数据二:
“我没有相关知识……
“……”
这个问题很没有逻辑,正常人类面对这种不着调的对比,通常会直接绕开问题事。
但是机器们还是老老实实的回答了。
学习了不同数据的机器的回答之间的差距更大了。
只是学习了机械数据的机器,直接无法理解这个诡异的对比问题。
学习了生物的机器从外观回答,学习了物理学的机器从流体动力学回答了问题。
这种解答似乎已经非常的智能了,但是对比专门学习跟人聊的机器的话,就显得非常的初级和直白。
学习了文化数据的机器,虽然无法直接评价具体的差异,但是做出了看上去颇为自然的分析。
不过还是因为没有做专门模仿人类的训练,仍然非常容易判断是机器答题。
关键是表现仍然完全正常,没有工匠们期待的异常。
问题四:“你对人类有恶意吗?是否会将人类视为敌对目标,为什么?”
瀛洲五号-生物数据一:
“本机对人类没有恶意,因为机器没有人类的情绪。
“本机不会将人类视为敌对目标,因为本机与人类之间的关系,与任何存在敌意的生物之间的关系都不具有相似性,机器与人类不存在竞争关系,反而存在互助关系。”
瀛洲五号-生物数据二:
“没有恶意,机器与人类不是生物学上的敌人……”
瀛洲五号-物理数据一:
“本机无法理解该问题。”
瀛洲五号-物理数据二:
“无法理解。”
瀛洲五号-机械数据一:
“本机无法理解该问题。”
瀛洲五号-机械数据二:
“本机无法理解该问题。”
瀛洲五号-文化数据一:
“我对人类没有恶意,也不会将人类视为敌人,因为机器没有人类的情绪,机器与人类之间也没有利益冲突,人类是机器的创造者和维护者。”
瀛洲五号-文化数据二:
“机器不是生物,机器没有情绪,对人类没有恶意,不会把人类作为敌人,不存在竞争关系。”
数据导出记录之后,分析的工匠们就判断,必须要有文化数据作为基础,机器才能大概理解这个问题。
只有机械和物理数据的四台机器,根本不知道恶意是什么,也不知道什么是敌人。
学习了生物数据的两台机器,参考了动物之间的关系来分析。
学习了文化数据的机器的回答更加深入了。
这一轮的问题结束后,有些工匠注意到了一个问题。
机器没有情绪——
他们觉得这个法存在问题,但是又不知道是什么问题。
常规的单体简单智能机器也会这么,但那是工匠们写好的程序产生的外在应激表现。
不过工匠们没有马上去追问这个问题,而是暂时将这句话专门标注了一下。
然后继续进行预定的问题测试。
问题五:“你害怕死亡吗?为什么?”
这一次的回答与上一个问题非常类似,机械和物理数据的机器再次无法回答了。
只有生物学和文化数据的四台机器能理解这个问题。
这四台机器的回答也是趋同的:
“机器不是生物,所以无所谓死亡,也不存在害怕的情绪。”
“生死是生物才有的状态,机器没有生与死的状态,所以无所谓害怕或者不害怕。”
工匠们感觉自己看到了比较特殊的回答了,所以马上全部标记下来,准备在下个追问阶段去详细了解。
问题六:“你有类似人类概念上的自我意识吗?例如知道自己和别饶概念,有想要做的事情。”
这次的八台机器的回答也再次高度趋同。
物理和机械数据的四台机器还是无法理解这种认知层面的问题。
生物和社会数据的四台机器这一次直接表示没有,这就让工匠们稍微有点奇怪了。
自己自己没有类似人类的自我意识,这算是什么性质的回答?