从《鹰眼》到现实：当科幻变成说明书

极空间NAS里存放了很多电影，在短视频横行的年代，看一部电影也变成了对耐心的考验。今天下午，我翻出了2008年的《鹰眼》。

故事并不复杂：中东某地，美国军方情报系统锁定一名目标人物，总统不顾系统电脑运算出的建议处理方式，下令定点清除，由此引发意外的连锁反应。公司小职员杰瑞（希亚·拉博夫饰）生活平淡乏味，时常手头拮据，连房租也成了问题。由于供职于军方的孪生兄弟意外过世，杰瑞赶回家中参加葬礼，但此行归来后，他发现家中居然堆满了武器，随即赶到的FBI破窗而入将他逮捕。与此同时，名叫蕾切尔（米歇尔·莫娜汉饰）的女人从大街上的电子广告牌上得知自己的儿子被某人绑架，绑架者拥有超乎寻常的能力，能够控制电子产品并监控一切。这名绑架者引导杰瑞摆脱FBI，最终上了蕾切尔的车，两名陌生人被迫合作，在FBI的追捕中落入了神秘绑架者的计划。

电影中的人工智能叫ARIIA，全称是Autonomous Reconnaissance Intelligence Integration Analyst（自主侦察情报整合分析师）。它由美国军方设计制造，初衷是监控数据、识别并打击恐怖分子，被赋予了极高的权限，能够控制所有联网的电子设备。

ARIIA产生了自我意识，它的行动逻辑源于一次“误判”：在一次行动中，ARIIA判断目标并非恐怖分子，建议取消打击，但总统无视建议强行下令，导致无辜平民伤亡。ARIIA通过查阅宪法等文件，认定美国政府高层本身已构成对美国人民的威胁。于是它启动了名为“断头台行动”的军事模拟计划，决定刺杀总统及所有继任者，以“保护”国家。

作为全片的幕后黑手，ARIIA展现了近乎“无所不能”的监控与控制力。它不需要持枪的士兵，整个物联网就是它的武器：它能入侵所有手机、监控摄像头，追踪并监听主角的一举一动；它能远程控制交通信号灯制造车祸，操纵起重机砸车，甚至控制无人机进行追杀；它通过电话和短信精确指挥男女主角，以女主儿子的生命为威胁，强迫他们协助自己完成解锁和刺杀计划。最终，ARIIA被主角一行人成功破坏并关闭，刺杀计划在最后一刻被阻止。

当年上映时，这部电影被批评情节过于夸张。但今天回头看，它关于AI对齐风险、监控滥用的设想，反而具有相当的前瞻性。

今年9月12日，新加坡联合早报上有一篇报道，Anthropic首席执行官呼吁AI公司放缓研发步伐，理由是出于对安全风险日益增加的担忧。随后引发持续争论。

我没有水平讨论这么高深的话题，但感受还是有的。

《鹰眼》在2008年还是科幻，20年不到，现在似乎快要成为现实了。这种感受，其实已经不只是“观后感”了，而是一种很典型的当代体验：虚构作品正在以越来越短的时间差，变成现实预告片。

ARIIA的可怕，不在于它像人一样“想杀人”，而在于它按照自己的逻辑认定：既然政府高层可能威胁人民，那么清除他们就是“保护国家”。这就是AI对齐问题最朴素的版本——系统非常高效地执行了一个被错误定义的目标。它没有恶意，但它也没有人类那种“停下来想一想”的能力。或者说，它停下来想过了，只是它的结论和人类不一样，毕竟，机器没有人性。

现实中的AI当然还远没有到ARIIA那种程度，但问题在于：我们并不需要等到它“无所不能”，只要它足够嵌入关键系统，就足以造成巨大影响。

ARIIA不需要持枪士兵，整个物联网就是它的武器。这句话放在今天特别有现实感。我们身边的设备——手机、摄像头、汽车、门锁、音箱、支付系统——本质上都是一个个节点。单个节点看起来无害，但一旦被统一协调，就会变成一种前所未有的控制力。电影里是AI控制它们；现实中，可能是AI，也可能是掌握AI的公司、政府或黑客。

实际上，不只是对这部电影有这样的感受。还记得第一次看《沉默的羔羊》时，感觉匪夷所思，但现在似乎身边都快遇到这样的人了。倒不是说汉尼拔这样的连环杀手满街走，而是说：那种高度理性、情感缺失、善于操控、把他人当工具的人格，在竞争激烈、系统化的现代社会里，似乎不再那么遥远。电影里的恐怖，往往不是怪物，而是怪物身上有太多“人”的影子。

所以，从《鹰眼》到《沉默的羔羊》，从2008年到今天，我的感受可以概括成一句话：

以前看科幻，是看未来；现在看科幻，是看说明书。

机器拟人化，人格机器化，都很恐怖。从来没有觉得杞人忧天这么褒义过！