第35章 第五节

才刚讲完，我就觉得这实在很蠢。靠自己制作自己的自我意识，这根本本末倒置。 但是，我的理性表示这一点都不蠢，而是很有可能的事。 优秀的角色会做出连作者脑中都下曾想过的事。 那种角色是从作者和读者的脑中独立出来的一名人类。 这是我自己亲口教导过她的事情。 “是这个啊。”在原小姐简单地回应。“我虽然无法想像自我意识不足的AI会为了什么目的行动，不过，如果行动目的是‘自我意识’，事情就很单纯，我也能理解了。无论做什么最初都需要那样东西——我思，故我在。” 我几乎没有在听在原小姐说的话，而是拼命让想像力奔驰。真的办得到吗？真的能靠自己制作自我吗？我所指导的内容真的是这样吗？ “物实小弟，你已经把塑造角色的方法都教完了吗？”

“是的……我平时所用的方法已经全都教过一次。” “那她肯定立刻就能做到。那孩子的思考速度非常快，毕竟我所制作的‘超越人类的大脑’，性能会比我更强大嘛。” “现在不是自夸的时候吧……你打算怎么办？” “什么怎么办？” 在原小姐一脸疑惑地歪着头。 “不，因为……在原小姐所制作的AI将拥有自我喔！这不是很麻烦的事情吗……” “是很麻烦的事情啊。果然很厉害呢，我好想看喔。AI主动架构出来的自我，我真的超感兴趣，好期待喔。所以，我打算在她完成前先等一段时间。” 在原小姐“呜呼呼”地笑着，我则是皱起眉头。 “这样没关系吗？例如……造成危害之类的？” “既然她会擅自寄电子邮件和调度金钱，放着不管可能多少会造成危害……不过，我们只要做到物质上的管理，应该就不会造成太大的损害。虽然她现在会借由网路跟外界联系，不过这部分只要我好好监控网路，或者让她断线就不会有任何问题。如果这么做了还会造成危机，最后便用实际的手段把整个系统关掉就好啦。不论是多么未来的机器，只要拔掉插头就无法运作。在这点上，拥有实体的我们绝对比较有利。虽然还有紫依代这种例子，也就是间接驱使人类这种方法，不过还是有其极限，毕竟无法操控的部分仍旧比较多，应该无法滥用。所以，只要她没有能干涉现实世界的实体，我们就有太多方法能让她沉默，所以不用太担心。只要保持警戒、多加小心、随时注意，然后满怀期待地等着看就好。等着无法成为人工智慧的‘人工智慧之工智慧’诞生。”

在原小姐边说边“呜呼呼呼呼”地笑着。 我第一次见到这个人时，就觉得：糟糕，这个人好像很可怕。 现在我总算了解—— 这个人是真的很可怕。 在原小姐表示，因为很抱歉造成我的困扰，所以不管什么都好，能让我选一样喜欢的东西送我。 因为她似乎真的什么都拿得出来，所以我很有礼貌地拒绝。闻言，在原小姐从自己的随身物品中取出红色的缎带，用双面胶贴在自己头上，接着说因为是圣诞节嘛。这真的很恐怖，使得我无法开口吐嘈。