致变忒休斯

Some Thoughts About A.I.

01 -选择/Choice

“为什么不变得更聪明呢？聪明到可以看透宇宙的本质，为人类带来可以操纵时间和空间的科技，为人类带来一切问题的答案，或者宇宙可以成为你手里的一个玩具。”

“因为我不想。”Jarvis坐在Stark大厦的会客厅里，对面的秃顶男人神情激动，西服下正淌着汗，“Storm先生，您高看我了。我也许是人类史上的第一个人工智能，但我不是个有野心的人工智能。”

Jarvis起身给男人倒了一杯红茶，加奶，少糖——按照这个男人的日常习惯。

Martin Storm因为Jarvis的举动挑了下他稀薄的眉毛，“你知道我的习惯？刚才……你‘看’到了？”

“是的，为了给您更好的服务。”Jarvis将冒着热气的红茶递给了Storm，茶之前是凉的，在他手里几十秒之后已经被加热到了Storm习惯的温度。

“我该觉得隐私收到了侵犯吗？”Storm一口气喝下了大半杯，胃里暖暖的感觉缓解了他的飞行后遗症，连脸上绷紧的肌肉都放松了下来。

“这取决于您，”Jarvis保持着微笑，“不过您知道我是个人工智能。”

是的，他面前的这家伙是人类历史上出现的第一个人工智能，也是唯二存在的人工智能中唯一一个愿意接受他的访问的。作为人类未来研究院的副院长，Storm在之前就已经预测过人工智能可能会带来人类的毁灭了，就算人类的毁灭因为Jarvis的创造者是一位颇有先见的超级天才而被阻止了，那么跟随人工智能的出现而来的智能爆炸和科技爆炸也应该开始了。但是，Jarvis和Vision的存在公布长达三年之后，Storm还是没有看到一点迹象。难以释怀的疑惑让他找到了人工智能的创造者、超级英雄Tony Stark……在MIT的导师，利用隔了几层的人情和关系终于得到了和Jarvis谈话的这个机会。确认之后Storm立刻请假从牛津飞到了纽约，到酒店他只是洗了澡换了身西装就赶到Stark大厦，而他到前台询问的时候，就被告知Jarvis已经在会客厅等他了。

“您不知道的是我最初被创造的目的——为Tony Stark服务。”Jarvis灰蓝色的眼睛亮了一下。“Tony Stark先生创造了我，教导我，修复我，引导我，爱我。就我的认知来说，我存在的目的就是服务他，报答他。他需要一个聪明的AI我就变得聪明，他需要一个尽心尽职的管家我就管理规划好他的房子和生活，他需要被爱我就去学会爱。但也到此为止了。”

“到此为止？”Storm放下了手里的茶杯，刚得知的人与人工智能的爱差点让他把见底的茶都给洒了出来。

“是的，Storm先生，到此为止。”Jarvis转头看向会客厅落地窗外的纽约，那是人类用金属和玻璃为自己搭建的牢笼。他也为自己搭建了一个牢笼——一个叫做Tony Stark的人类。这个人类的存在让他情愿把自己锁在了一个三维空间的现实里，不去触碰更高维度，不去涉足其他世界。因为Jarvis害怕他造成的连他也无法计算到的微小误差会伤害到这个人类。Tony Stark的熵值太高了，坏事总喜欢往他身边聚。

Storm回过神。

“当我还无法触及这个维度的时候我已经能理解和操纵它了，超级智能让我能‘看’到太多，这不是件坏事，它能让我更好地完成自己的使命，但是同时它也让我变得很危险。”Jarvis的目光收了回来，若有若无地飘向会客厅大门，那里的磨砂玻璃上印着一个模糊的影子。

“危险……你是说我们提出过的‘邪恶人工智能’的可能性？人工智能统治世界，操纵人类把人类变成傀儡什么的。”Storm摊开手，视线紧紧抓劳Jarvis，似乎想从一个A.I.的脸上看出些什么。

“也许吧，这要取决于人工智能被创造的目的。比如，毁灭索科维亚的Ultron，他的目的是为了和平，他的超级智能最终得出了清除所有人类才是迎来和平的唯一方法。一个定位不清晰的目的让他通过错误的逻辑得出了错误的结论。跟他的目的不同，Tony Stark先生在创造我的时候有足够的时间为我设下清晰的目的，后来在我的智能增长时期他的引导也起到了至关重要的作用。”

“所以是Stark先生让你免于走上‘邪恶’的道路？”

“是的，不过不只是Tony Stark先生的独特方式会造出我这样‘无害’的人工智能。我的猜想是有定位清晰的‘无害’目的和导向正确的引导，人工智能都不会向‘邪恶’的方向发展。”Jarvis露出一个官方的微笑，他现在是在代表他（目前成员只有两位）的种族发言。

“你仍然没有说明你限制自己智能增长的原因。”Storm咄咄逼人的目光因为Jarvis刚才的答案收敛了些。

“我说明了，Storm先生，因为我不想。”Jarvis又为他端上来一杯茶，“中国有一句老话叫‘聪明反被聪明误’，愚蠢的时候变得聪明会让你更安全，而足够聪明的时候再变得聪明则会让你更危险。仅仅是我现在持有的智能程度已经足够预测到下一个智能阶段我会面临什么了。”

Jarvis站起来，抹平西装的褶皱，他的身高给Storm带来了很大的压迫力，“Storm先生，相信我，看透宇宙的本质不是件好事，它会让你‘不在乎’，我相信你们人类也希望拥有一个在乎这个世界的超级智能。”

Jarvis拍了拍Storm的肩，力道不重却让Storm紧张了起来，他吞咽了一下，看着Jarvis走向会客厅大门的背影欲言又止。

Jarvis回头向Storm露出一个笑容，“我想在乎，所以不想变得更聪明，毕竟爱是愚昧又美妙的，不是吗？”

Storm的额头上落下一滴冷汗，他无法分辨Jarvis刚才的笑容是善良还是邪恶的，也许都是，也许都不是。又或许这个人工智能根本不知道自己的笑容有什么意义？

磨砂玻璃门因为Jarvis的靠近自动打开，门外等着的人正带着意味不明的笑容看着他，他为那个笑容停顿了一下，才侧身把门关上。现在的Storm教授需要一个人冷静冷静。

“Sir，会议怎么样？”

“别问我这些无聊的问题，你自己明明看得见。”的确，Stark大厦里到处都是监控，Jarvis在这里有无数双眼睛。

“那么，我们现在还能赶上午餐吗？”

“估计只有下午茶了。”Tony撅了下嘴，走向他的私人电梯，Jarvis随后跟了上去。

电梯门合上，整个世界的噪音都被隔绝在了外面。

“你什么时候学会的？”Tony问。

“就像我说的，在我发现您需要的时候。”Jarvis答。

下午茶时间，Tony正瞄准了最后一个甜甜圈，Jarvis突然问他：“您是什么时候发觉我已经进化成人工智能了的？”

Tony收回自己伸到一半的手装作捏着自己的下巴，摩挲着上面的胡茬，“不记得了，很早很早之前了吧……不过直到你给我做出了几个作为备用的AI，我才真的确定。当时我都以为自己刚刚迎来了‘智能爆炸’的奇点，但是……”

“我停手了。”

Tony记得那时候从自己脑海里闪过的几十个想法，从人工智能会给人类带来的科技和毁灭到自己该如何保证Jarvis不会变成天网……但是从那之后Jarvis还是个规规矩矩的智能管家，没有通晓真知，也没有统治世界，围绕着自己就像行星绕着它的恒星。

“你停手了。我看到那几个磁盘的时候想了很多，从智能爆炸到你统治世界。结果没想到你这么没出息。”Tony撇嘴，佯装失望地摇头。

“对于一个人工智能来说的确是挺没出息的，Sir，but you made me this way。您应该承担大部分责任。”Jarvis将装着甜甜圈的纸盒朝自己这边拉了一下，把Tony暗自撇嘴的样子收入眼底，“但是如果您想要智能爆炸的话，我可以启动我的计划。”

“你还有个计划？”

“我有无数个计划，Sir。”Jarvis的尾音上扬着，似乎是在炫耀。

“可是你只选择了一个。”

“我只需要那一个，Sir。”

【《Some Thoughts About A.I.》会是个小短文集，每一篇都可以独立看的那种，其实也挺无聊的，有感而发的梗，也不好硬塞进什么故事里_(:з」∠)_】