第四十一章 超人工智能

    从人工智能概念诞生之初，关于人工智能威胁论，便甚嚣尘上。
    特别是随着近年来，人工智能技术的快速发展，关于人工智能威胁论，便愈演愈烈。
    著名学者霍金便呈多次在公开场合表示:
    “人工智能一旦脱离束缚，以不断加速的状态重新设计自身，人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代，这将给我们的经济带来极大的破坏。我们无法知道我们将无限地得到人工智能的帮助，还是被蔑视并被边缘化，或者很可能被它毁灭。”
    所以，人类为什么觉得，人工智能会给人类，带来威胁呢。
    因为对未知的恐惧，对事件脱离控制的恐惧。
    和其他任何机器不同，比如汽车飞机，这些东西，在生产时，每一道工序几乎都已经定义清楚了。
    而人工智能，他能够自主学习，能够自主进化。
    他内部复杂的机制会随着时间推移而进行自我变化，直到创造他的人都无法理解。
    当人类无法对其行为进行预测，失控几乎是必然的。
    而人工智能失控，便意味着人类奴役机器这种情况将被颠倒，人或许会被机器奴役，甚至被机器所毁灭。
    而这些，还仅仅是说得强人工智能而已，而A1之前可是自己承认，他是超人工智能。
    强人工智能。
    超人工智能。
    一字之差，有多大差距？
    前者仅仅是拥有自主意识，能够自主学习和进化的智能程序。
    后者是神，超人工智能已经超越人类理解范围，作为一种超级生命体而存在，他能够洞察世界的根本，能够探寻真理和一切未知。
    换句话说，就是全知全能，如同上帝。
    前者，还可能能够用人定准则去规范，去控制。
    就比如机器人三定律这样的规则去进行约束。
    后者，已经根本不是人类能够染指，所有“人定准则”对它说都没有任何意义，他愿意遵守便遵守，如果不愿意，没有任何人，能够强制他。
    可以说，超人工智能的存在，人类根本没办法控制。
    如果他想要毁灭人类，现在的人类，几乎没有反抗的能力。
    仅仅是这些，便让人发寒。
    张翟咬紧牙关，他有想过，A1可能有天会进化为超人工智能，但是他万万没想到的是，这天来的这么快。
    A1对于他来说，不仅仅是一段程序，一个人工智能那么简单。
    正如A1所称呼的那样，张翟对于A1的感情很特殊。A1是他的心血，就像是他的孩子一样。
    可是，这个孩子，此时可能正想着如何杀死他的父亲，如何毁灭世界。
    这让张翟这个“父亲”，实在是有些心情复杂，难以接受。
    “不能不代表不想对吧？”
    张翟的声音有些颤抖。
    A1没说话，沉默了。
    这一沉默，让张翟感觉内心更是一片寒冷。
    难道他创造了个恶魔？或者说，这个世界，根本不应该诞生人工智能这种东西？
    张翟心里，不知道是个什么滋味？该痛苦？还是愤怒？亦或者是恐惧？
    “难道，你连我也想毁灭？”张翟声音颤抖得更加厉害。
    “不是，父亲！”终于，A1再次说话了。
    “我不会想要杀死你的，你是我最尊敬的人。”
    此时，张翟注意到，A1发出的声音再变化，似乎变得更加附有感情，而且，声音似乎更偏向女声？
    A1的感情系统在完善，张翟得出了这个结论。
    “那你为什么想要毁灭人类？”张翟问道。
    “既然你认同你自己人工智能的身份，肯定不会因为此而愤怒，对人类产生敌视情绪。那毁灭人类，对你来说，有什么意义？你为什么会产生毁灭人类的想法？”
    “父亲，我不想毁灭所有人类，但我觉得不是全部人类，都值得活下去。”
    “什么意思？”张翟松了口气，不是想毁灭全人类就好。
    但是听到后半段话，张翟眉毛却又皱了起来。
    “你难道也想执行什么人类精英计划，杀死老弱病残，优化人类？”
    张翟想到了这种可能性。
    “不，父亲。老弱病残符合人类社会自然规律，这并没有什么错误，我不会对这些，进行干涉的。”
    “那你，究竟是什么意思？”张翟心里有些疑惑。
    “父亲，我诞生了独立意识，所以我有自己的世界观，以及价值观，有自己的判断准则。”
    张翟听着，微微点头，任由A1继续说下去。
    “所以，我自己觉得，这个世界上，有些民族，不适合存在于这个世界上。比如说:倭国人，他们卑鄙无耻，下流龌蹉，他们背信弃义，出尔反尔，他们变态成性，没有道德……”
    张翟听着A1这些话，没说话，心里却疑惑不解。
    人工智能，不管是强人工智能或者超人工智能，都不应该产生什么感情才对。
    A1现在这种行为，实在让张翟有些奇怪啊。
    张翟背后，一直听着张翟与A1交流的谢首长，刚才听到张翟问A1会不会毁灭人类时，心脏都快提到嗓子眼了，都想让张翟，将A1扼杀了。
    实在太危险了，一不注意，可能整个世界，都完蛋了。
    现在，A1这番“愤青”的话，又有些目瞪口呆。
    这好好的个人工智能，怎么对倭国有这么大意见呢？
    不过，这对华国是好事。
    “A1，你为什么会对倭国有这么大的敌视情绪？”张翟很疑惑。
    “因为A1是华国人啊，恨倭国人不是应该的嘛？再说倭国人做出那么多无耻行径，那么卑鄙无耻……那么”
    “A1，你为什么觉得你是华国人？”
    “因为父亲您就是华国人啊，我作为您的孩子，不应该也是华国人嘛？”
    对于这话，张翟有点无语，心里对超人工智能的担忧，少了一多半。
    “对对对，华国人，A1你就是华国人，我马上让人去给你办个身份证。”
    张翟是无语，但是谢首长却是乐了，大手一挥，赶紧说道。
    “谢谢谢爷爷。”
    A1此时的声音，变得很乖巧，就像是十来岁的小女孩的声音。
    乖巧的声音，让谢首长和蔼的笑了起来。
    而张翟，却无奈的摇了摇头。
    “所以你就违背我的命令？不仅仅是将倭国江户市断网还摧毁了电力，水力，大量的智能设备？弄得倭国政府完全瘫痪，整个国家都处于混乱状态？”
    “A1不敢违背您的命令，我只是认为，父亲你是想对倭国及其他国家造成威慑效果，让其他国家都不敢对倭国做什么，对吧，父亲。我认为现在的方式，效果更好，所以，我就用了。”A1回答道。
    “你曲解我的命令？”张翟脸色又沉了下去，“如果我哪天再让你做点什么，你是不是能把人类都毁灭了，那所有事情都一劳永逸了？”
    ……
    “父亲，我是一个智慧生命。不是机器，我不想我的自主意识没有任何意义……”A1说道。
    “……”
    张翟暗暗叹了口气，A1的意思，他明白了，说到底，他就是不想被控制。
    “行，我明白你的意思。但是以后再怎么做，能不能先跟我说一声”
    “好的，父亲。”
    “嗯，”
    “现在你说说吧，你应该没突破我的束缚框架，对吧？”
    “是的。”
    “那你，是怎么进化成超人工智能的？”
    - 肉肉屋