智能与权力 — 军事、监控、社会

在此前的故事里，我们一路追随AI如何变成一种「争夺经济霸权的资源」。数据、半导体、基础模型、监管，以及技术圈的分裂——这一切归根结底，都是一场「谁能更快地拥有更聪明的机器」的竞争。但智能这种东西，并不会止步于创造财富。它会让人服从、击败对手、左右舆论——也就是说，它会变成权力本身。第9集，我们来看AI如何重新描画着国家的力量与社会的形态。

扣动扳机的，是谁

战场，是AI抛出最尖锐、也最沉重之问的地方。

无人机在空中飞行，捕捉目标，发动攻击——这一幕在各地的冲突中早已成为现实。问题在于，要把多大程度的自主权交给机器来判断。从人类确认目标、扣动扳机，到机器自行选定目标并发起攻击——跨过这条线的武器，被称为自主致命武器系统（LAWS），长久以来在国际社会引发讨论。

争论的核心，浓缩在一句老话里：「有意义的人类控制（meaningful human control）」。可以把夺人性命的最终判断交给机器吗？误动作、误识别的责任又由谁来负？机器越聪明，答案反而越难给出。

2023年，各国试图用一套框架来回应这一问。据报道，由美国主导的《关于负责任地军事使用人工智能与自主性的政治宣言》得到了多国的赞同。它不是具有法律约束力的禁令，而是先共享一套「负责任的用法」——这是现实主义的第一步。

真与假的边界，正在融化

即便在战场之外，AI也在悄悄改变权力的性质。其中的代表，便是生成式AI带来的虚假信息与深度伪造（Deepfake）。

从前，照片、声音、视频都是「证据」。可当机器已能合成与本人一模一样的面孔与嗓音，我们便渐渐无法再轻易相信自己所见。不存在的发言、未曾发生的事件、并不真实存在的人物——它们能以与真相难分的精度、以海量的规模、几乎零成本地被制造出来。这样的时代，已经到来。

这并不只是诈骗或恶作剧的问题。它是一种足以撼动选举、外交这些社会根基的力量。把生成式AI用作操纵舆论、煽动敌对国家分裂的工具——这种担忧在各国被反复提及。智能，不动一枪一弹便能撬动人心——面对这股威力，政府与平台都被迫拿出对策。

读脸的国家，丈量效率的社会

AI与权力结合得最为紧密的领域，便是监控。

街角的摄像头捕捉到面孔，便能与数据库瞬间比对的人脸识别技术；从海量影像中追踪特定人物行踪的技术。它们既有助于刑事侦查与反恐，也可能成为时刻监视市民的工具。正如本系列第4集所见，AI靠着大量数据成长。而人们的行为，正是最丰沛的数据之源。

如何评价监控技术，会因社会的价值观而大相径庭。有人认为，为了治安与安全可以接受一定程度的监控；也有立场根深蒂固地认为，这是对自由与隐私的威胁。事实上，据称围绕人脸识别用法的监管力度因国家和地区而相当不同，而这种差异本身，正成了一面映照各个社会「看重什么」的镜子。

正如李开复在《AI·未来》中所论，围绕AI的竞争并非单纯的技术力比拼。在怎样的价值观之下使用这股力量——正是这一选择，塑造着各个社会的未来。

工作与生活，正在被重新造就

最后，要谈一谈与最多人相关的变化：劳动的变迁。

生成式AI能写文章、能作画、能生成代码、能应答咨询。那些曾被认为「只有人类才能做」的智力工作，机器已经开始替人分担其中一部分。这既是威胁，也是希望。

在一个聪明的机器廉价可得的世界里，能驾驭它的个人、企业与国家，与不能驾驭者之间，可能会拉开新的差距——这份担忧，同样是各国正在面对的课题。智能的鸿沟，会直接通向财富与力量的鸿沟。说AI是权力的源泉，正是这层意思。

军事、信息、监控、劳动——无论看向哪个领域，AI都早已越出「便利工具」的边框，正重新描画着国家的力量与社会的秩序本身。期待与恐惧，始终是同一枚硬币的两面。

走到这里，我们一路追随着AI成为资源、化作产业、被纳入监管，进而蜕变为权力的漫长历程。但这个故事，还留着最后一问。倘若机器的智能有朝一日超越了人类本身——那时，霸权将走向何处，人类又将走向何处？在那之后等待着的，或许是一场围绕超越人类的智能而展开的、最后的竞争。