提到詹姆斯·邦德,我们脑海中浮现的是什么?特工、美女、酷炫装备、激烈打斗、以及那句“要摇匀不要搅匀”的马提尼。作为007系列的死忠粉,我看到的也基本就是这些。

直到最近玩了新游戏《007:初露锋芒》,才发现反派竟出自我的行业。剧透预警:这部作品中的大反派,居然是一家AI大模型公司。

我天天写AI公司,也没觉得需要詹姆斯·邦德出手啊?通常资金链一断,它们自己就撑不住了。

但回头审视几十部007电影,才发现在特工的风花雪月之下,一直藏着一个鲜明主题:科技之恶。

甚至可以说,每当新科技问世,它总会在007里扮演反派。我想聊聊这种忧思,以及背后的逻辑与群体心理。

01 从冷战绵延至今的科技梦魇

只看007的炫酷外表与风流故事,很容易忽略它其实是个标准的科技悲观主义故事。

原著作者伊恩·弗莱明,二战时亲身参与情报工作,目睹过V-2火箭的恐怖,感受过核武竞赛的阴影。由此种下了对未知科技的深深忧虑,并将这一主题融入几乎每部007故事,电影和游戏也继承了下来。

007对科技之恶的第一重想象,是冷战时期的原子能梦魇。在原著《太空城》中,反派是英国核武器专家,企图将核弹射向伦敦。电影《金手指》里,反派要用核武器攻击诺克斯堡黄金储备,让全球金融体系崩溃。这些核恐惧,与20世纪50、60年代冷战背景下的军备竞赛紧密相连。当时英国等国都在宣传如何应对核威胁、导弹突袭,这种紧张气氛渗透进社会文化,形成了对核子技术的深层恐惧。

冷战疑云散去后,核恐惧逐渐淡化,但对科技作恶的想象已根植于007这类大众文化中。70、80年代,接力核恐惧的是基因恐慌。克隆、基因编辑、人类改造等话题崛起,重新唤起人们对科学怪人的恐怖记忆。《雷霆杀机》里,反派是纳粹基因实验的受害者,因此获得超高智商与变态性格,计划制造大地震摧毁硅谷,让自家公司垄断芯片市场。这些怪诞阴谋,似乎都源于不受控制的基因改造。对科技之恶的终极猜想,从人类会不会炸穿地球,变成了会不会亲手培育怪物。

90年代,事情又变了。互联网崛起,全球化经济浪潮袭来。007反派逐渐脱离纳粹身份,毕竟二战过去几十年,纳粹总是不老不死也不像话。新反派大多是资本家,一手掌握互联网话语权,一手握有巨额财富,还总忍不住给人类文明使坏。《明日帝国》里有句台词:“话语是新的武器,卫星是新的大炮。”电影里反派是传媒大亨,利用卫星篡改GPS信号、制造假新闻,挑动国家开战,只为换取更高收视率,达成媒体垄断。可见做媒体的谁还没个流量焦虑呢。

战后恐惧原子能与核武器,70年代恐惧基因编辑与人体改造,90年代恐惧互联网与全球化传媒。007在几十年间一遍遍审判、怀疑这些人类科技硕果。

那么21世纪好起来了吗?并没有,因为AI来了。

02 AI,谍战故事里的新狼

AI时代007的科技恐怖故事怎么编?《007:初露锋芒》给出了一个让我大开眼界的答案。

这部作品里,随处可见量子计算机、无人机、人形机器人、庞大服务器构成的科技奇观。在这些冰冷巨大的科技物象下,整个故事对科技之恶的怀疑角度更是令人咋舌。

怎么回事呢?全球知名新能源科技巨头韦伯家族,斥巨资研发了一个AI大模型THEIA。现实里我也不知道哪家AI公司还做新能源,反正这家就这么干了。韦伯家族把大模型推销给军情六处,声称能预测全球各地可能爆发的威胁,比如恐怖袭击、非法交易等。特工们只需按模型分析行动,就能百发百中、算无遗策。

但实际上AI哪有那么准?军情六处的大傻子们居然不知道大模型幻觉这回事。这个THEIA经常预测不准,很多所谓空袭、谋杀的预测都是瞎编的。通常AI公司会重新训练模型,推出更高准确率的版本,但韦伯科技的脑回路不是这样。也许是因为他们卖给英国政府的是本地部署模型,政府采购为了压价拒绝了后续升级服务。

总之,韦伯科技的选择是手动修复AI幻觉。比如THEIA预测哪里会有恐怖袭击,但实际没有,老韦伯就派儿子去那里制造袭击;THEIA预测某人会被谋杀,但人家活得好好的,老韦伯就派儿子去谋杀TA。为了AI的准确率,上演了一场父慈子孝的人间喜剧。

韦伯家族的终极野心,是让自家大模型被全世界接受,部署到全球能源中枢、军事基地、民生基础设施中。他们认为人类不可信,所有权力都应交给AI。为了实现这个理想,他们愿意为不靠谱的AI搞到血流成河。

很难想象脑回路如此清奇的人类,如何在竞争激烈的科技产业站稳脚跟。但这个故事确实展示了当前很多人的根本性怀疑:AI告诉我的东西,如果是错的呢?如果AI背后的人故意告诉我错误答案呢?当AI能力越强,这种怀疑与阴谋论就越沉重,变成无解的死循环。

这就指向了007对科技的基本态度:技术可能无罪,但谁也说不准手握技术的人心里藏着多大的恶意。

03 人作为个体,永不值得信任

AI公司为了维持模型准确率,干脆兼职当恐怖分子。这个故事放在科幻电影里都算很无厘头的设定,却展示了007系列惯用的逻辑推演:我看不见手握技术的人,我不信任他们的善良。

事实上,007并不反对技术。这个系列很喜欢通过Q博士的各种发明来吸引眼球。但他信任的是具体、微小、无伤大雅的炫酷技艺,而不是威能大到影响公众安全、支配群体话语的技术集权。换言之,007是低技术的爱好者,同时是高技术的疑心病人。

007的信条是,当科技的能力足够强,那么持有科技的具体的人,就绝对不值得任何信任。

这些人可以是企业家、资本家、政府机构的技术研究者,以及有权力使用技术的官僚。他们掌握技术往往会经历三个阶段:第一阶段,见证技术的可怕性,开始相信技术即权力;第二阶段,认为技术权力即自身权力的一部分,开始笃信享有技术权力的自己高人一等,凌驾于众生之上;第三阶段,道德理性和人文主义彻底溃散,认为自己可以颠覆秩序、重塑世界,甚至自身有义务这样做,于是走向反人类的极端化立场。

所有掌握了技术密码的人类,似乎都不可避免地会步入这个循环。

这只是007及类似作品的极端化推演。但这种类似囚徒困境的博弈,却在现代社会一次次带来科技恐慌,直到恐慌情绪变成电影票房,也变成互联网上无休无止的口水仗。

04 警惕科技,且警惕焦虑

我们该警惕科技、恐惧AI吗?从某种程度上来说是的,AI确实正越来越体现集权的一面。Anthropic诡异如邪教,马斯克的狂言狂语令人窒息。十年前就有人呼吁禁止AI用于军事,它现在已经赤裸裸地军用了。很多声音都在提醒小心AI诈骗,但AI诈骗正像野火燎原般增多。

我们自然有理由担心AI变成某些狂人的无上权力,惧怕“每个人都觉得没事,于是出事了”的局面出现。

但另一方面,007的科技恐慌言论从来没有成功。拉低世界平均水准的有很多东西,但唯独没有科技。从核技术到基因技术,再到互联网、AI、新能源,世界在科技的飞驰下越来越好,甚至很多时候是科技这一样好东西,在与诸多坏东西抵死对抗。

另一个问题在于,很多时候警惕科技之恶,真不是“就差我一个”,而是“也不多我一个”。当警惕超过合理界限,带来的就不是对科技的有效监管,而是给反复提醒我们科技作恶的人送上的流量与钞票。

确实要警惕科技之恶,但也要警惕过度焦虑。当007故事只能用如此清奇的角度来编制AI公司的反派故事时,或许在某种程度上说明一切还都是乐观的。至少编剧们没什么AI能毁灭世界的真实生活。

即使我们提供无穷无尽的担忧,科技树也会生长。我们要当心这棵树绞住房屋,但也不妨在树下略微乘凉。

本文来自微信公众号 “脑极体”(ID:unity007),作者:风辞远,36氪经授权发布。