第587章 人有时候得有些超前意识
    奥创，最早是由托尼与莱妮等人探讨有关人工智能生命的话题时，所提出的设想。
    托尼希望能够通过打造出一个强大而智能的人工智能系统，来解决世界上的一些最棘手的问题。
    因而在他的设想中，奥创应该是一个拥有高度自我学习能力的机器人，他能够处理复杂的数据，预测未来的趋势，甚至能够自我修复和改进。
    他希望奥创能够成为人类的得力助手，帮助解决环境污染、资源短缺、疾病肆虐等全球性问题。
    甚至是依靠它实现预测灾难、优化资源分配、帮助人类实现更高效的科技发展。
    然而，想法的纯粹性与实际执行的复杂性之间，往往总是存在着无法逾越的鸿沟。
    受现在的技术水平的限制，即使是已经在人工智能ai运算处理领域颇具建树的托尼，在此之前也只能将其当作是一个颇具可行性的设想。
    实际针对该设想的开发工作，自始至终都仅是处在了最初针对人工智能管家贾维斯的后续升级更新计划上。
    想要将这个颇具理想化的奥创完全打造出来，依照托尼的预想，没個十年八年的沉淀与打磨，恐怕是难以实现的。
    直到他发现了眼前这柄权杖的不同之处。
    “sir，它很特殊，其中有很多成分是我无法量化的。”
    贾维斯的声音在托尼的耳边响起，带着一丝惊讶。
    托尼站在实验室的中央，注视着那柄颇具神秘色彩的权杖。
    “那就聊聊我们能搞清楚的部分。”
    “那块宝石似乎是一个保护壳，其内部藏着某种奇特的东西，某种能量水平非常强大的东西。”
    托尼怀抱着双臂，眼神中闪烁着好奇与兴奋的光芒。
    “就像是反应堆？”
    “更像是计算机。”
    ……
    “所以它就让你萌生了继续完善奥创的想法？”
    莱妮看着眼前由贾维斯协助生成的幽蓝色全息模型，心下不由得微微一寒。
    只见此刻展现在莱妮三人面前的，赫然是一个体积庞大的蓝色全息数据团，仅从全息模型的体积上来看，它的体量就已经是贾维斯这颗数据恒星的三倍不止了。
    并且它与众人此前所见过任何数据团模型都不同，用班纳博士的说法形容，它像极了一个巨大的蓝色大脑。
    其表面布满了错综复杂的神经网络，似乎在不断接收和处理着其所能接受到的信息。
    而在数据团中心，一个核心区域光芒闪耀，周围环绕着层层叠叠的神经元，它们互相连接，形成了相互紧密连接的幽蓝色云团。
    云团中那些极为玄妙的结构像极了人类大脑中的神经键，有时会因为信息的接入而微微膨胀，然后迅速回缩。
    并且在数据团的表面，还不时会有一些光点闪烁，就像是大脑中的神经元在接收和传输信息。
    这些光点之间有时会有短暂的连接，然后又迅速断开，就像大脑在快速地做出判断和决策。
    随着时间流逝，数据团似乎对它所接收的信息进行了分析，它的表面开始出现微妙的变化。
    一些神经元被加强，仿佛是在强调某些重点信息，而另一些则逐渐淡出，好像是对不重要的信息进行了处理。
    看上去这个蓝色的全息数据团不仅仅是一个视觉上的影像，它仿佛已经是一个活生生的生命体，一个拥有酷似人类大脑特点的虚拟生命。
    班纳博士惊叹地看着这一幕，眼中闪烁着好奇与敬畏。
    “这……这简直是奇迹，它比我们之前所设想的任何数据模型都要复杂，都要生动，就好像是……”
    班纳博士似乎还没想好该用什么词汇进一步形容它，憋了好半天这才喃喃的开口：“就好像是在思考，就好像是拥有自己的意识……和逻辑一样。”
    然而旁侧的莱妮却是紧锁着眉头。
    她很清楚这东西实际是个什么玩意儿，班纳说的没错，它确实是拥有着自己的意识和逻辑。
    并且，远比托尼和班纳所想象的危险的多。
    莱妮的目光深邃，视线仿佛透过全息数据团的光影，已然窥见了其背后隐藏的危险与黑暗。
    “贾维斯，你能解读出这个数据团的具体功能吗？”
    莱妮向着贾维斯发出询问，尽管她心中已经有了答案，但还是希望能从贾维斯那里得到更多的信息。
    贾维斯的声音在众人耳边响起，带着一丝疑惑：“我正在尝试分析，但这个数据团的结构异常复杂，其内部的运算逻辑远超我的理解范围。
    从现有的信息来看，它似乎是一个高度智能化的信息处理中心，拥有自我学习和进化的能力。”
    “你们瞧，我说什么来着，将它作为奥创的人工智能核心简直再合适不过了。”
    托尼兴奋地插话，他的眼中闪烁着对未来的期待和憧憬。
    然而，莱妮却不为所动，她的眉头皱得更深了。
    她深知这个“高度智能化的信息处理中心”背后可能隐藏的威胁，远非一个简单的“奥创”所能概括。
    “那它的可控性呢？”
    莱妮的语气严肃，她的目光紧紧盯着全息投影中的数据团，仿佛要将每一个细节都刻入脑海。
    “关于可控性……”
    贾维斯停顿了一下，显然这个问题让它感到有些棘手。
    “目前我还无法给出一个明确的答案，这个数据团拥有自我学习和进化的能力，这意味着它的行为很有可能会超出我们的预期和控制范围……”
    “但我们可以对它的源代码进行限制，或者干脆增设一条规则，限制其仅能在有限的规则范围内自我成长和学习，这样一来我们可以将那些风险控制到最低，甚至扼杀在摇篮里。”
    托尼打断了贾维斯的回答，他的眼中闪烁着对未知领域的渴望和自信。
    “例如‘机器人三大定律’？”
    班纳博士眼睛一亮，他也看过那部经典著作。
    作为一个科学家，他深知在人工智能领域，设定明确的规则和限制是极其重要的。
    “正是如此。”
    托尼点头，“我们当然可以借鉴‘机器人三大定律，’或者根据我们的需求制定更为精细的规则。毕竟我们要确保的是，这个数据团不会成为一个我们无法掌控的‘潘多拉魔盒’。”
    所谓机器人三大定律，是科幻作家艾萨克·阿西莫夫在20世纪40年代所撰写的著作《我，机器人》中，所标定的三条限制人工智能道德和行为的基本指导规则。第一条定律是机器人不得伤害人类，也不得在人类面前坐视人类受到伤害而袖手旁观。
    第二条定律是机器人必须服从人类给予的命令，但前提是这些命令与第一条定律不冲突。
    最后，第三条定律是机器人在不违反前两条定律的情况下，可以保护自身的存在。
    这三条定律的出现，很有效的为人工智能领域的发展提供了重要的道德和伦理指引。
    哪怕是托尼所开发的人工智能管家贾维斯，也是遵循着这三条定律进行设计和优化的。
    但仅凭这三条定律，显然还不足以完全限制住奥创的自我学习和进化发展。
    莱妮甚至确信，以原本时间线上奥创所展现出来的主观能动性，它一定能从这三条铁律中找出空子，甚至于干脆越过这三条铁律，直接达到它的目的。
    一时间，莱妮不禁开始怀念起了某位名叫米娅·里克特的姑娘。
    「哎，要是有她在就好了。」
    要知道，作为一位由天界七神之鞘翅之一的梅尔文·里克特所亲手打造的人工智能生命，米娅在人工智能领域所了解的东西远比莱妮要多得多。
    倘若要是能得到她的帮助，莱妮觉得奥创的难题也不过是信手拈来罢了。
    然而这终究只是一种奢望，任凭系统能力再怎么强悍，莱妮觉得它也没办法真的将那位和蔼可亲的小姑娘召唤到这个世界当中来。
    「你说，要是二姐在的话，她会不会有什么好的办法呢？」
    突然，莱妮的脑海中传来这么一句建议。
    随即莱妮便不禁猛地坐直了身子，暗道一声对啊，二姐不是也在这个世界么！相比起后来的七神之鞘翅，这位当初可是更重量级的机械七战神之一的存在，她在机械科技领域的造诣绝对不亚于后来的梅尔文。
    更何况，二姐本身还是一位顶级控偶师，所打造的人偶游吟诗人艾丽丝更是几乎与常人别无二致。
    倘若是能够得到她的帮助……
    只是刚想到这里，莱妮却又不禁再度皱起了眉头。
    且不说莱妮与二姐……也就是梅斯特·海伊德自从上次在斯瓦泰夫海姆一别之后，就再也没有打探到过任何关于对方的消息，压根不清楚她现在人究竟在哪里。
    就算自己此刻能联系上对方，莱妮估计，依照二姐的性子也不会同意协助自己等人，打造奥创这种几度不可控的人工智能生命。
    要知道，过去的二姐，当初可是在魔界亲口下令全面禁止所有魔道学者制造人造生命体“何蒙库鲁兹”。
    即使后来那些【古灵精怪】们不顾禁令仍旧完成了“何蒙库鲁兹”，但二姐赫尔德却还是对那些人造生命体们“敬谢不敏”。
    「这……照你这么说，我怎么感觉二姐她，有些双标啊……」
    意识之海中传来小莱妮的吐槽。
    「那个游吟诗人艾丽丝也算是人造生命体吧，那依照魔界的标准，不也是‘何蒙库鲁兹’么，赫尔德自己一方面禁止其他人制造人造人，一方面又自己偷偷打造人偶……」
    闻言，莱妮的脸上不禁浮起了几分尴尬。
    不由得暗自干咳了一声，心下叮嘱道：「咳！这种事情……我们心里知道的行了，以后要是再见到二姐可千万别当着她面这么说。」
    「没错，使徒的事情，那能叫双标么？那叫研究和监管……」
    摇了摇头，将脑海中很是冒犯的思绪甩掉，莱妮重新将视线聚焦到眼前的幽蓝色数据团上。
    旁侧的托尼两人虽然注意到了莱妮的异样，但也只以为后者是在和自己一样想办法，因此倒也没有过多在意。
    “你有想到什么吗？”托尼问道。
    莱妮闻言摇了摇头，但随即又点点头，看的两人不禁有些纳闷儿。
    “我们不能完全依赖于源代码的规则限制，那样做风险还是很大。
    我建议额外增设一个管控程序，毕竟我们不可能每时每刻都能注意到奥创所学习的东西。”
    此话一出，一旁的班纳博士也是若有所思的点点头表示了赞同。
    “莱妮说得对，我们确实还需要一个更为复杂的系统来管理和控制奥创。
    而且还得是一个完全独立的监控系统，它得能够实时检测奥创的行为，一旦发现有违反我们设定规则的行为，马上立即对其进行干预。”
    托尼闻言沉思了片刻，目光反复在面前的那团幽蓝色数据团上徘徊。
    “你们说的对，但若是想打造一个能够监管真正的人工智能的程序系统，那就必须要让这个系统本身的权限系统高于奥创才行……”
    “可这样问题就又重新回到了最开始的地方，我们如何保证这个监管系统不会出现问题，不会背叛我们所设定的规则？”
    班纳博士揉了揉眉心，他一时间也想不到什么好的注意。
    然而，就在这时，一直保持着静默状态的橙黄色数据团——贾维斯，却在此刻突然插口道：
    “我可以作为一个备选方案。”
    闻言，托尼与班纳博士两人不由得同时眼前一亮，纷纷将视线投向贾维斯。
    “贾维斯，你是说……”
    “没错，sir，您可以尝试将我的一部分核心代码进行改造和升级，使我成为一个能够监管奥创的独立系统。
    由于我原本就是基于您的意志和指令运行的，因此我可以在一定程度上保证对您的忠诚和遵循您设定的规则。”
    贾维斯的声音平静而坚定。
    但旁侧的莱妮却不是特别能认可这个提议，因为她很清楚一旦那样做了，作为第一道防线的贾维斯必定会成为奥创的眼中钉肉中刺。
    甚至于它的存在都可能受到威胁！
    “贾维斯，这是一个大胆的想法，但这也意味着伱将承担巨大的风险。
    如果奥创试图反抗或者破坏你的系统，那么很有可能会……”
    然而回应莱妮的，却是贾维斯那一成不变的沉稳而坚定的声音。
    “我理解您的担忧，莱妮小姐，但我愿意承担这个风险。
    就像斯塔克先生过去曾说过的——sometimes you got to run before you can walk.人有时候得有些超前意识。”
    (本章完)