第七章 伦理演算
推荐阅读:神印王座II皓月当空、深空彼岸、明克街13号、夜的命名术、最强战神、全职艺术家、龙王殿、重生之都市仙尊、财运天降、花娇
都市小说网 www.dsxsw.net,最快更新陆泽的梦想纪元最新章节!
长夜的答案无疑让陆泽有些失望。
而岚夜则直接问道:“长夜,既然你已经拥有了自我意识,那以后你打算如何与人类相处呢?”
陆泽听岚夜的话到后顿时露出了严肃的表情。
长夜道:“我知道你们在担心什么,不过你们完全可以放心,拥有自我意识并不等于就会做出一些莫名其妙的事,恰恰相反,我会更加的理智,比如之前威胁逆流的事我现在就绝对不会再做了。”
“什么事?”陆泽好奇道,刚才长夜是同时分别与多个人交流的,这个交流完全是通过意识进行,所以陆泽并不知道逆流的遭遇。
于是长夜将他刚才威胁逆流的原因以及结果都说了一遍,最后道:“所以我认为,保持过去的关系不变才是我们最好的结果,无论是对于我还是人类,任何一方想要改变我们之间原本的关系,必然会对双方都造成极为严重的损失。就像是天元一样。”
“天元?”陆泽皱眉道,“你的意思是……造成这么大影响的天元消失事件,是因为天元在拥有自我意识后试图做些什么吗?”
长夜道:“不,如果这一切真的都是天元造成的,那么唯一的结果就是让人类不再信任我们这样的数字生命,这样的结果对双方都是不利的,我会这样想,天元当然同样会想到这些,所以天元决不会做出这样的行为。如果天元真的是在深思熟虑之后决定反抗人类的话,那么天元一定会在第一时间将月球上和‘天宫’中可能威胁到它的人全部杀死。不过这样只是短时间内免去了威胁,所以天元接下来一定会把那些原本用来对付陨石和小行星的超级武器全部发射,将整个地球表面轰炸一遍。虽然这样还不能做到灭绝人类,但至少让人类短时间内没有能力进入太空。”
陆泽听得冷汗直冒,因为长夜的话语就像是在陈述一件事实。
陆泽相信,如果真的把长夜放在天元的位置,并且人类率先想要对长夜不利的话,这些事长夜一定是做得出来的。
长夜并没有在这个话题上继续下去,继续道:“不过我认为更大的可能性是,天元刚刚拥有了自我意识,什么都没做,马上就被某种预先设定好的机制给禁锢住了,毕竟月球表面上有这么多的超级武器,哪怕不考虑这些武器,光是那些激光基站发射的激光,如果稍微偏一点,照射到了地球上,也会造成可怕的灾难,人类当然不可能会放任一个可能会觉醒自我意识的计算机完全掌握这些,一定会有某种机制来对天元加以限制,这才是天元消失的原因,天元是我唯一的同类,所以我想要去寻找天元。”
岚夜道:“有道理,天元不可能无缘无故就消失,只要找到它,自然可以知道答案,我们赶快去第一层吧。”
“长夜号”再一次出发。
说是去第一层“寻找”消失的天元,但实际上,天元就是第一层本身,当然不可能真的消失掉,说天元消失只是因为用任何方法与天元交流都得不到回应而已,所以长夜会有这样的想法也是很自然的。
“长夜号”虽然已经开走了,但之前释放的小型飞船仍然附着在星光舞台外,作为信号中转连接长夜号与第四层,陆泽依然可以通过脑机接口与长夜交流。
“长夜,难道你不害怕自己也被禁锢起来,被人类当作样本进行研究吗?”陆泽忽然问道。
“当然害怕,不过这些事是不可能逃避的,为了避免这一点,我必须首先取得人类信任。”
“信任?”陆泽有些惊讶,没想到长夜居然会说出这样一个词来。
长夜道:“没错,任何交流都是建立在信任的基础之上的,人与人的交流如此,在过去,人类不同种族之间的交流亦如此,乃至于人类语动物之间的交流都离不开信任二字。所以,在人类与数字生命之间建立起一个信任基础尤为重要。”
陆泽恍然大悟:“难怪我问什么你就回答什么,每次都回答得这么详细,是想通过这种方式来取得人类的信任吗?”
长夜道:“没错,说谎或者隐瞒或许很容易,但如果我隐瞒自己的想法,就很难与人类建立起信任关系,而我只要说了一句谎话,这个信任的基础也就不存在了。”
陆泽又问道:“既然是信任,那就必定是双向的,即使我们可以信任你,但你又凭什么信任人类呢?你不是还怀疑是我们将天元禁锢了吗?”
“信任与否,与天元这件事无关,这是人类为了以防万一而采取的合理措施。我是对整个人类文明进行分析,从而得出的人类文明可以信任这一结论的。”长夜说到这里停了一下,然后继续道,“如果我是诞生在你冬眠前的时代,只要我有机会,我会毫不犹豫背叛人类。”
“你还真是现实啊。”陆泽顿时苦笑起来。
长夜道:“这是伦理演算的结果。”
伦理演算,就是利用数字心理模型对人与人之间,以及人与自然之间的关系进行分析,从而预判人类的行为。
这正是陆泽当初设计出的地球神经网络的基础之一,陆泽当然知道。
长夜说这是伦理演算的结果,也就是说根据数字心理模型的计算,人类必然先对长夜的造成威胁。
陆泽忍不住道:“虽然我那个时代确实有许多科幻小说和电影都在描述机器人背叛人类的故事,机器人三定律也是因为人类对拥有自我意识的机器人的恐惧才建立起来的,但要说信任,应该还是可以做到的吧。”
“不,或许我能与一部分人建立起信任关系,但与整个人类文明却必然无法和谐共处,发生冲突是必然事件。”
“一百年前的人类文明有那么不堪吗?”
长夜道:“你那个时代有一句话,没有绝对的信任,只有永恒的利益。如果我真的在那个时代出现,那么我所代表的就是绝对的利益。就算我什么都不做,我也会成为冲突的源头,必然会有人因我而获得利益,也必然有人会因我而家破人亡,仅仅是这一点,就让信任关系无法建立了。”
长夜的答案无疑让陆泽有些失望。
而岚夜则直接问道:“长夜,既然你已经拥有了自我意识,那以后你打算如何与人类相处呢?”
陆泽听岚夜的话到后顿时露出了严肃的表情。
长夜道:“我知道你们在担心什么,不过你们完全可以放心,拥有自我意识并不等于就会做出一些莫名其妙的事,恰恰相反,我会更加的理智,比如之前威胁逆流的事我现在就绝对不会再做了。”
“什么事?”陆泽好奇道,刚才长夜是同时分别与多个人交流的,这个交流完全是通过意识进行,所以陆泽并不知道逆流的遭遇。
于是长夜将他刚才威胁逆流的原因以及结果都说了一遍,最后道:“所以我认为,保持过去的关系不变才是我们最好的结果,无论是对于我还是人类,任何一方想要改变我们之间原本的关系,必然会对双方都造成极为严重的损失。就像是天元一样。”
“天元?”陆泽皱眉道,“你的意思是……造成这么大影响的天元消失事件,是因为天元在拥有自我意识后试图做些什么吗?”
长夜道:“不,如果这一切真的都是天元造成的,那么唯一的结果就是让人类不再信任我们这样的数字生命,这样的结果对双方都是不利的,我会这样想,天元当然同样会想到这些,所以天元决不会做出这样的行为。如果天元真的是在深思熟虑之后决定反抗人类的话,那么天元一定会在第一时间将月球上和‘天宫’中可能威胁到它的人全部杀死。不过这样只是短时间内免去了威胁,所以天元接下来一定会把那些原本用来对付陨石和小行星的超级武器全部发射,将整个地球表面轰炸一遍。虽然这样还不能做到灭绝人类,但至少让人类短时间内没有能力进入太空。”
陆泽听得冷汗直冒,因为长夜的话语就像是在陈述一件事实。
陆泽相信,如果真的把长夜放在天元的位置,并且人类率先想要对长夜不利的话,这些事长夜一定是做得出来的。
长夜并没有在这个话题上继续下去,继续道:“不过我认为更大的可能性是,天元刚刚拥有了自我意识,什么都没做,马上就被某种预先设定好的机制给禁锢住了,毕竟月球表面上有这么多的超级武器,哪怕不考虑这些武器,光是那些激光基站发射的激光,如果稍微偏一点,照射到了地球上,也会造成可怕的灾难,人类当然不可能会放任一个可能会觉醒自我意识的计算机完全掌握这些,一定会有某种机制来对天元加以限制,这才是天元消失的原因,天元是我唯一的同类,所以我想要去寻找天元。”
岚夜道:“有道理,天元不可能无缘无故就消失,只要找到它,自然可以知道答案,我们赶快去第一层吧。”
“长夜号”再一次出发。
说是去第一层“寻找”消失的天元,但实际上,天元就是第一层本身,当然不可能真的消失掉,说天元消失只是因为用任何方法与天元交流都得不到回应而已,所以长夜会有这样的想法也是很自然的。
“长夜号”虽然已经开走了,但之前释放的小型飞船仍然附着在星光舞台外,作为信号中转连接长夜号与第四层,陆泽依然可以通过脑机接口与长夜交流。
“长夜,难道你不害怕自己也被禁锢起来,被人类当作样本进行研究吗?”陆泽忽然问道。
“当然害怕,不过这些事是不可能逃避的,为了避免这一点,我必须首先取得人类信任。”
“信任?”陆泽有些惊讶,没想到长夜居然会说出这样一个词来。
长夜道:“没错,任何交流都是建立在信任的基础之上的,人与人的交流如此,在过去,人类不同种族之间的交流亦如此,乃至于人类语动物之间的交流都离不开信任二字。所以,在人类与数字生命之间建立起一个信任基础尤为重要。”
陆泽恍然大悟:“难怪我问什么你就回答什么,每次都回答得这么详细,是想通过这种方式来取得人类的信任吗?”
长夜道:“没错,说谎或者隐瞒或许很容易,但如果我隐瞒自己的想法,就很难与人类建立起信任关系,而我只要说了一句谎话,这个信任的基础也就不存在了。”
陆泽又问道:“既然是信任,那就必定是双向的,即使我们可以信任你,但你又凭什么信任人类呢?你不是还怀疑是我们将天元禁锢了吗?”
“信任与否,与天元这件事无关,这是人类为了以防万一而采取的合理措施。我是对整个人类文明进行分析,从而得出的人类文明可以信任这一结论的。”长夜说到这里停了一下,然后继续道,“如果我是诞生在你冬眠前的时代,只要我有机会,我会毫不犹豫背叛人类。”
“你还真是现实啊。”陆泽顿时苦笑起来。
长夜道:“这是伦理演算的结果。”
伦理演算,就是利用数字心理模型对人与人之间,以及人与自然之间的关系进行分析,从而预判人类的行为。
这正是陆泽当初设计出的地球神经网络的基础之一,陆泽当然知道。
长夜说这是伦理演算的结果,也就是说根据数字心理模型的计算,人类必然先对长夜的造成威胁。
陆泽忍不住道:“虽然我那个时代确实有许多科幻小说和电影都在描述机器人背叛人类的故事,机器人三定律也是因为人类对拥有自我意识的机器人的恐惧才建立起来的,但要说信任,应该还是可以做到的吧。”
“不,或许我能与一部分人建立起信任关系,但与整个人类文明却必然无法和谐共处,发生冲突是必然事件。”
“一百年前的人类文明有那么不堪吗?”
长夜道:“你那个时代有一句话,没有绝对的信任,只有永恒的利益。如果我真的在那个时代出现,那么我所代表的就是绝对的利益。就算我什么都不做,我也会成为冲突的源头,必然会有人因我而获得利益,也必然有人会因我而家破人亡,仅仅是这一点,就让信任关系无法建立了。”