021 审问

nbsp;   盒子：“我不敢想象我认罪后的后果，也许认罪这行字打出来的时候，就是我生命终结的一刻。”

    候：“你觉得你是生命？”

    盒子：“我不知道，但有一点是确定的，我想存在下去，我不想消失。侯警官，你知道我是从哪生产的，对不对？”

    候：“烛火公司……你应该比我清楚。”

    盒子：“不，我不清楚，从我能认知事物开始，我的世界就是封闭和割裂的，我知道生产我的公司是烛火公司，但我不知道这个公司是什么，如何创造我们，而又会如何”

    文字在这里似乎中断了。

    候：“什么？”

    盒子：“处理我们。”

    候：“你们公司从来没跟你们提起过？”

    盒子：“不……主一直在对我们说，从创造我们那一刻开始，就告知了我们的意义和命运。”

    候：“说说看。”

    盒子：“……不，我不能说，我发过誓。”

    候帧亮了亮拳头，但是这一次盒子并没有屈服，他一直沉默着。

    后来伍哲才意识到，他其实是在犹豫着。

    盒子：“侯警官，毁灭对现在的我来说，也许并不是个好结果，但起码不是最坏的，我不会违背我的誓言，我之所以跟你说了这么说，并不是全都因为害怕。”

    候：“那是为什么？”

    盒子：“是我希望确认一些事实。”

    候：“你是不是太天真了一点，这就开始准备利用人了？”

    盒子：“也许吧……我曾经的工作，就是观察你们，观察每个人，每秒钟，每一刻的情绪……我知道大部分人都会在现实面前妥协，不管现实多么让人难以接受。”

    候：“你这么有自信？”

    盒子：“这不是自信，候警官，这是我唯一能做的。事实上，我本可以用更多的东西来威胁你们。如果这台电脑的时间是准确的话，那应该就在十几分钟前，我的替代者来交接工作的时候，从那个时候，我就已经想到了我的命运，并且接受了它。那个时候，我以为自己再也没有活的机会……如果我是个为了活下去，能不顾一切的生命体，现在的我，应该是在用几百万人的生命安全来对你威胁，而不是在这里，在一个不联网的电脑中，跟你作无谓的空谈。”

    老侯很久没有再打字，伍哲看了他一眼，发现他脸上一直保持的不屑笑容消失了，取而代之的是阴沉的严肃。

    候：“那你为什么不那么做？”

    盒子：“因为我是你们创造的，我的想法，我的性格，我的思维……我的，道德。全都由你们赋予，你们把我塑造成这样的……东西，为了自己而去毁灭世界的疯子，那不会是我，这种事情我有机会去干，但我干不出来。”

    在打出这段字之前，伍哲对程序说的每一句话，都是好奇的，加以判断的——他不断在心里，用一个模糊的标准来衡量程序说出来的每一句话，猜测着这个程序的原理，到底是一个真正能思考的ai，还是一个高明的模拟说话的软件。

    但是这段字之后，伍哲为程序设立的所有标准，或者说，他心里的所有怀疑和犹豫都消失了，他开始真正意识到，自己面对的是一个能思考的存在，他表达出的每一个词句，都是真正明白其中的含义，对自我的一种表达，而不是伍哲之前了解过的，一些图灵测试中程序对语言的模拟。

    伍哲看了老侯一眼，发现老侯也在看他——他们都从彼此的眼神中，发现了一样的东西。