为什么技术有利于暴政？ — — 一场你必须参与的政治斗争

【2018年11月17日存档】在古代，土地是最重要的资产，因此政治就是控制土地的斗争。在现代，机器和工厂变得比土地更重要，因此，政治斗争的重点是控制这些重要的生产方式。而在21世纪，数据是比土地和机械都更为重要的资产，因此，政治将是控制数据流动的斗争……

支持者经常用这样的话来鼓励自己，说“民主是为满足以人为本、是不可避免的”。事实上民主没有什么“不可避免”的。尽管民主国家在过去一个世纪或更长时间内取得了所有成功，但如果放在整个历史长河中，它们仍然只是昙花一现。君主制、寡头政治和其他形式的专制统治，依旧是人类治理的常见模式。

自由民主国家的出现与自由和平等的理想联系在一起，这种理想似乎是不言而喻的，是不可逆转的。但是，这些理想比我们所认为的要脆弱得多。他们在20世纪的成功取决于可能被证明是短暂的独特技术条件。

在21世纪的第二个十年，自由主义开始衰落。关于自由民主是否真的能为中产阶级提供能力的怀疑越来越大; 政治变得更加部落化; 在越来越多的国家，其领导人表现出对蛊惑人心手段和专制的偏爱。这种政治转变的原因很复杂，但它们似乎与当前的技术发展紧密交织在一起。

支持民主的技术正在发生变化，尤其是随着所谓人工智能的发展，它可能会进一步发生变化。

信息技术正在继续飞跃; 生物技术开始为我们的内心生活提供一扇窗户 — — 我们的情感、思想和选择。信息技术和生物技术将共同造成人类社会前所未有的动荡，侵蚀人类的机构，并可能颠覆人类的欲望。在这种情况下，自由民主和自由市场经济可能会变得“过时”。

普通人可能不会详细了解所谓的人工智能和生物技术，但他们可以感觉到自己正在经历什么样的未来。1938 年，普通人在苏联、德国或美国的状况可能是非常严峻的，但他经常被告知他是世界上最重要的，他是未来（当然，他必须是一个“普通人”，而不是一个犹太人或一个女人。是的，那个时代的歧视问题比如今更严重）。他看着宣传海报 — 通常以英雄姿态描绘煤矿工人和钢铁工人 — 并看到自己出现在那里：“我在那张海报上！我是未来的英雄！“

在 2018 年，普通人感到自己越来越无关紧要。许多神秘的术语在 ted Talks、政府智囊团和高科技会议上兴奋起来 — — 全球化、区块链、基因工程、人工智能、机器学习 — — 普通人，无论男女，都可能怀疑这些术语完全与他们自己有关。

在 20 世纪，群众反抗剥削，并试图将其在经济中的重要作用转化为政治权利；现在，群众担心的是被无关紧要，他们疯狂地想要利用自己仅存的政治权利，但为时已晚。也许在 21 世纪，民粹主义的起义不再是针对一个剥削人民的经济精英，而是针对一个不再需要他们的经济精英。这可能是一场失败的战斗。

信息技术和生物技术的革命仍处于起步阶段，它们对当前自由主义危机的负责程度值得商榷。伯明翰、伊斯坦布尔、圣彼得堡和孟买的大多数人，只是敏锐地意识到了人工智能的兴起及其对生活的潜在影响。然而，毫无疑问，现在正在积聚动力的技术革命将在未来几十年内面对人类所面临的最艰难的考验。

一个新的无用的阶级？

让我们从工作和收入开始，因为无论自由民主的哲学诉求如何，它都在很大程度上得益于其实际优势：在政治和经济学中，自由主义的分散决策方法允许自由民主国家超越其他国家，为人民带来越来越多的富裕。

自由主义通过向每个人承诺更大的一块馅饼来实现和解。随着不断增大的馅饼，这是可能的。馅饼可能会继续增长。然而，经济增长可能无法解决如今由技术破坏所造成的社会问题，因为这种增长恰恰是越来越多地取决于迅速膨胀的颠覆性技术发明。

当然，人们对将自己赶出就业市场的恐惧并不是什么新鲜事，过去这种担心被证明是没有根据的。但是，人工智能与旧机器可不同。过去，机器主要以手工技能方面与人类竞争；现在，他们开始在认知技能方面与我们竞争。还有任何第三种技能吗？如何让人类始终拥有优势？

至少再过几十年，随着计算机接管更多的常规认知工作，人类的新创造性工作也将继续出现。这些新工作中的许多可能取决于合作而不是人与人之间的竞争。人工智能团队可能不仅对人类有优势，而且对自己的计算机也有优势。

然而，大多数新工作可能需要高水平的专业知识和独创性，因此可能无法解决失业的非熟练劳动者或只能以极低工资就业的工人的问题。此外，随着人工智能水平不断提高，即使是需要高智商和创造力的工作也可能会逐渐消失。国际象棋世界是事物可能走向何方的一个例子。在 IBM 的计算机 Deep Blue 在 1997 年击败国际象棋高手加里卡斯帕罗夫之后的几年里，人类象棋选手仍然蓬勃发展; AI 被用来训练人类神童，由人类和计算机组成的团队被证明更具优势。

然而近年来，计算机已经变得如此擅长下棋，以至于他们的人类合作者已经失去了价值，并且可能很快变得完全无关紧要。2017 年12月6日，Google 的 AlphaZero 计划击败了 Stockfish 8 计划，实现了另一个重要的里程碑。2016 年，Stockfish 8 赢得了世界计算机国际象棋冠军。它可以获得数百年来人类在国际象棋方面积累的经验，以及数十年的计算机经验。

相比之下，AlphaZero 没有被人类创造者教授任何国际象棋策略，相反，它使用最新的机器学习原则通过对抗自身来教会自己国际象棋。由于没有从任何人类身上学到任何东西，因此它的许多获胜动作和策略似乎都是人类所不具备的。它们可以被描述为创意，如果不是彻头彻尾的天才的话。

你能猜到 AlphaZero 从头开始学习国际象棋、准备与 Stockfish 8 的比赛，并发展其天才本能，花了多长时间吗？四个小时！

要知道几个世纪以来，国际象棋被认为是人类智慧的最高荣耀之一。AlphaZero 在四小时内就从完全无知到创造性掌握，而且没有任何人类指南的帮助。

AlphaZero 并不是唯一富有想象力的软件。今天在国际象棋锦标赛中捉骗子的方法之一就是监控玩家展示的原创性水平。如果他们发挥了特别创造性的举动，评委们通常就会怀疑它不可能是人类的举动，而是一台机器。至少在国际象棋中，创造力已经被认为是计算机而不是人类的商标了！

今天在国际象棋中人类 AI 团队发生的事可能很快就会发生在警察部门、医学界、银行和许多其他领域的人工智能团队中。

更重要的是，AI 享有独特的非人类能力，这使人工智能与人类工作者之间的差异变得更大，而不仅仅是程度。AI 拥有的两个特别重要的非人类能力是连通性和可更新性。

例如，许多驾驶员不熟悉道路上所有不断变化的交通规则，他们经常违反这些规定。此外，由于每个驾驶员都是一个单一的实体，当两辆车接近同一个交叉路口时，驾驶员有时会误会彼此的意图并因此发生碰撞。相比之下，自动驾驶汽车将了解所有交通规则，并且不会故意违反规则，并且它们都可以相互连接，能更清楚彼此的意图。当两个这样的车辆接近同一个交叉点时，它们实际上并不是两个独立的实体，而是单个算法的一部分。

同样，世界卫生组织可以确定一种新的疾病，或者一个实验室可以生产一种新药，但是他们不能立即更新世界上所有人类医生。然而，即使你在全世界拥有数十亿的 AI 医生 — 每个 AI 都在监测一个人类的健康状况 — 你仍然可以在瞬间更新他们所有，并且它们之间都可以就最新的发现相互沟通。连接和可更新性的这些潜在优势非常巨大，至少在某些工作中，用计算机替换所有人类可能是有意义的，即使一些人类医生仍然比机器做得更好。

可能使数十亿人类在经济上变得无关紧要的相同技术也同时使人类更容易被监控

所有这些都导致了一个非常重要的结论：自动化革命不会包含单一的分水岭事件，比如之后就业市场将进入一些新的均衡。相反，它将是一连串更大的破坏。旧工作将会消失，新工作岗位将会出现，但新工作岗位也将迅速改变并消失。人们需要重新训练并重塑自己，不仅仅是一次，而是多次。

正如 20 世纪政府为年轻人建立了大规模的教育体系，在 21 世纪，他们需要为成年人建立大规模的“再教育”制度。但这真的够吗？改变始终是压力，21 世纪初的繁忙世界已经产生了压力的全球性流行。随着工作波动性的增加，人们真的能够应对吗？到了 2050 年，可能会出现一个无用的阶级，他们不仅是因为缺乏工作或缺乏相关的教育，而且还缺乏足够的精神耐力来继续学习新技能。

数字独裁统治的兴起

由于许多人类失去了经济价值，他们也很可能因此失去政治权利。可能使数十亿人类在经济上变得无关紧要的相同技术也同时使人类更容易被监控。

AI 吓坏了很多人，因为他们不相信它会保持顺从。科幻小说充分发挥了计算机或机器人发展意识的可能性 — 此后不久将尝试杀死所有人类。但没有特别的理由相信 AI 会随着它变得更加智能而发展出意识。一些人认为我们应该反对恐惧 AI，因为它可能总是服从它的人类主人，永远不会反叛。人工智能是一种工具和武器，不像人类开发的任何其他武器; 它几乎肯定会让已经强大的人进一步巩固他们的权力。指出这点的人就是最有可能获得权力的人类。

考虑监视。世界上许多国家，包括很多民主国家，正忙于建立前所未有的监视系统。例如，以色列，就是监视技术领域的领导者，并在被占领的西岸创建了一个全面监视制度的工作原型。

今天，每当巴勒斯坦人打电话、在 Facebook 上发布内容、或从一个城市到另一个城市旅行时，他们很可能就会受到以色列的麦克风、相机、无人机或间谍软件的监控。

算法分析收集的数据，帮助以色列安全部队查明并消除他们认为是“潜在威胁”的任何东西。巴勒斯坦人可以管理西岸的一些城镇和村庄，但是以色列人掌控着天空、电视广播和网络空间。因此，要想有效地控制居住在约旦河西岸的大约 250 万巴勒斯坦人，所需要的以色列士兵可以很少。

• 延伸阅读：在这里看到全球监视审查最全面的报告《数字威权主义的起: 灾年之畔》

在 2017 年10月的一次事件中，一名巴勒斯坦劳工在他的私人 Facebook 账户上张贴了他自己在工作场所的照片，上面有一台推土机，并写着：“早上好！”

然而，Facebook 翻译算法在音译阿拉伯字母时出现了一个极其严重的“小错误”。算法将这些字母识别为 Ydbachhum（意思是“伤害他们”），而不是 Ysabechhum（意思是“早上好”）。

以色列安全部队怀疑这名男子可能是一名打算使用推土机将人送过来的“恐怖分子”，并迅速逮捕了他。在他们意识到算法出错之后，他们释放了他。即便如此，被认为“违规”的 Facebook 帖子也被删除了 — — 是的，你永远不会因为小心翼翼而避免灾祸。

并且，要知道，巴勒斯坦人今天在西岸所经历的事可能只是数十亿人类最终将在全球经历的灾难的一个原始预览版。

例如，你可以想象一下，朝鲜目前的政权在未来获得了这种技术的更高级版本。朝鲜人可能需要佩戴生物识别手镯，接受当局监测他们所做和所说的一切，以及他们的血压和大脑活动。利用对人类大脑日益增长的理解并利用机器学习的巨大力量，朝鲜政府最终将能够衡量每个公民每时每刻都在想什么。如果一个朝鲜人看着金正恩的照片，而生物识别传感器发现了愤怒的迹象（血压升高、杏仁核活动增加），那么这个人第二天可能就在古拉格了。

民主与独裁之间的冲突实际上是两种不同数据处理系统之间的冲突 — — 而人工智能，完全可以将优势转向后者

然而，至少在有些时候，这种锋芒毕露的战术可能并不是必要的。即使公众对现实的控制越来越少，一些国家表面上仍然可以选择自由投票。但是，可以肯定的是，操纵选民感情的尝试并不新鲜。一旦某人（无论是在旧金山、北京还是莫斯科）获得了操纵人类心灵的技术能力 — — 可靠、廉价和大规模的 — — 民主政治将彻底变成邪恶的木偶剧。

• 延伸阅读：这就是我们曾经在《定制人将终结民主》一文中强调的噩梦。现在 Facebook 正在努力提起实现这种民主灾难

在接下来的几十年里，我们都不太可能有机会面对有感觉的机器的反叛，但是我们可能不得不面对那些知道如何比我们的母亲更好地按下我们的情感按钮、并使用这种不可思议的能力的大量机器人。

人类精英，试图向我们推销一些东西 — — 无论是汽车、政治家还是整个意识形态。而机器人可以识别我们隐藏最深的恐惧、仇恨和渴望，并用它们对付我们。在黑客通过分析有关他们的数据和利用他们的偏见来学习如何操纵个人选民时，我们已经在全球最近的选举和公民投票中预先了解到这一点了。虽然科幻惊悚片带来了大火和烟雾的戏剧性启示，但实际上，我们更可能会仅仅通过几个点击就能面对平庸的大型灾难。

最大的和最可怕的人工智能革命的影响可能是民主国家和独裁政权的相对效率。

从历史上看，独裁政权在创新和经济增长方面面临着严峻的障碍。在 20 世纪后期，民主国家通常胜过独裁统治，因为他们在处理信息方面要好得多。我们倾向于将民主与独裁之间的冲突视为两种不同道德体系之间的冲突，但它实际上是两种不同数据处理系统之间的冲突。

民主分配权力来处理信息并在许多人和机构中做出决定，而独裁统治将信息和权力集中在一个地方。鉴于 20 世纪的技术，在一个地方集中太多的信息和权力是低效的。没有人能够足够快地处理所有可用信息并做出正确的决定。这是为什么苏联做出比美国更糟糕的决定的原因之一，以及为什么苏联经济远远落后于美国经济。

然而，人工智能可能很快将钟摆摆向相反的方向。AI 可以集中处理大量信息。实际上，它可能使集中式系统比漫射系统更有效，因为当机器有更多信息需要分析时，机器学习的效果更好。如果您忽略所有隐私问题、并将所有与十亿人相关的信息集中在一个数据库中，那么您将获得比尊重个人隐私更好的算法。命令其所有公民进行 DNA 测序并与某些中央机构分享他们的医疗数据的威权政府，将获得巨大的优势。那么，人权呢？

20 世纪专制政权的主要障碍 — — 将所有信息和权力集中在一个地方的愿望 — — 可能成为 21世纪政权的决定性优势。因为技术到位了。

当然，新技术将继续出现，其中一些技术可能会鼓励分散而不是集中信息和权力。区块链技术以及由其启用的加密货币的使用目前被吹捧为针对集中化权力可能的平衡力。但区块链技术仍处于萌芽阶段，我们还不知道它是否真正能抵消人工智能的集中化趋势。

请记住，互联网在早期曾经也被宣传为一种自由主义的灵丹妙药，可以让人们从所有集中系统中解放出来 — — 但现在，它已经准备好让集中化霸权变得比以往更加强大了。

• 延伸阅读：终极揭露《互联网究竟是什么》

权力的机器化转移

即使某些社会表面上仍然是民主的，算法效率的提高仍将越来越多地把权力从个人转移到联网机器。我们可能会心甘情愿地放弃对自己生活的更多权利，因为我们将从经验中学习到比信任我们自己的感受更多地信任算法会更靠谱，最终失去了为自己做出许多决定的能力。

不信吗？想想看，在短短二十年内，就有数十亿人将最重要的任务委托给 Google 的搜索算法：找到相关且值得信赖的信息 — — 即 决定数十亿人的认知。我们更多地依靠 Google 来寻求答案，我们独立定位信息的能力越来越差了。

今天，所谓的“真相”是由 Google 搜索算法的最佳结果定义的。人们要求 Google 不仅要查找信息，还要引导他们。自动驾驶汽车和 AI 医生将进一步做同样的事：虽然这些创新将使卡车司机和人类医生失业，但他们更大的重要能力在于，继续将权力和责任从人类转移到机器。

人类习惯于将生活视为决策的戏剧。自由民主和自由市场资本主义将个人视为一个不断对世界作出选择的自主代理人。艺术作品 — — 无论是莎士比亚戏剧、简奥斯汀小说、还是俗气的好莱坞喜剧 — — 通常都围绕着英雄做出一些关键决定。生存还是毁灭？听我妻子的话杀死邓肯国王，或听取我自己的良心并饶过他？嫁给柯林斯先生还是达西先生？基督教和穆斯林神学同样关注决策的戏剧性，认为永恒的救赎取决于做出正确的选择。

人工智能有朝一日可以做出更好的职业生涯决策，甚至关于人际关系的决策。但是，一旦我们开始依靠 AI 决定学习什么、在哪里工作、与谁约会、甚至结婚，人类生活将不再是决策的戏剧，我们的生活观念将被彻底改变。

那时候，民主选举和自由市场可能不再有意义。大多数宗教和艺术品也是如此。想象一下 Anna Karenina 拿出她的智能手机并询问 Siri 究竟应该与 Karenin 先生结婚，还是与潇洒的 Count Vronsky 私奔？或者想象一下，你最喜欢的莎士比亚玩 Google 算法做出的所有重要决定？哈姆雷特和麦克白的生活会更加舒适，但这些生活会是什么样的生活？我们是否有能够理解这种生活的模型？

议会和政党能否克服这些挑战并阻止黑暗的情景？目前这似乎不太可能。技术混乱甚至不是政治议程上的主要项目。在 2016 年美国总统竞选期间，两位候选人都没有直接解决自动化的潜在影响。唐纳德特朗普警告选民墨西哥人会“抢走”他们的工作，因此美国应该在其南部边境修建一堵墙 ……但他从未向选民发出警告说算法会抢占他们的工作，他也没有建议在加利福尼亚（数字极权的总部集中营）周围建立防火墙。

那我们该怎么办？

首先，我们需要更加重视人类思维的运作方式 — 特别是如何培养自己的智慧和同情心。如果我们在人工智能上投入太多而在开发人类思维方面投入太少，那么非常复杂的计算机人工智能可能只会增强人类的自然愚蠢，并培养我们最糟糕的（也可能是最强大的）冲动，其中有贪婪和仇恨。为了避免这样的结果，我们投资于改善人工智能的每一美元和每一分钟，应该被明智地用来探索和发展人类意识。

更实际、更直接的是，如果我们想要防止所有财富和权力集中在小精英手中，我们就必须规范数据的所有权。在古代，土地是最重要的资产，因此政治就是控制土地的斗争。在现代，机器和工厂变得比土地更重要，因此，政治斗争的重点是控制这些重要的生产方式。而在21世纪，数据是比土地和机械都更为重要的资产，因此，政治将是控制数据流动的斗争。

• 延伸阅读：《政治的未来：当机器决定“民主”？》

不幸的是，我们在管理数据所有权方面没有太多经验，这本身就是一项比管理土地或机器​​更困难的任务。

数据无处不在，它们可以以光速移动，您可以根据需要创建任意数量的副本。收集的关于我的 DNA、我的大脑和生命的数据，究竟是属于我、还是属于政府、属于哪些公司或人类集体？

积累数据的竞争早已开始，目前由谷歌和 Facebook 以及中国百度和腾讯等巨头领导 — — 即 中美均分的 FATBAG（Facebook Amazon Tencent Baidu Alibaba Google）。

到目前为止，这些公司充当了“注意力营销客”的角色 — — 他们通过向我们提供免费信息、服务和娱乐来吸引我们的注意力，然后他们将我们的注意力转移给广告商。然而，他们真正的业务不仅仅是销售广告。相反，是通过吸引我们的注意力，设法积累了大量关于我们的隐私数据，这些数据比任何广告收入都更有价值。我们不是他们的客户 — — 我们是他们的产品。

普通人会发现很难抵制这个过程。目前，我们中的许多人都乐于赠送我们自己最宝贵的资产 — — 我们的隐私、也就是基本人权 — 以换取免费电子邮件服务和有趣的猫咪视频。但是，如果以后，普通人决定试图阻止数据流，他们就可能会遇到更大的麻烦，特别是因为人们可能已经开始依赖网络帮自己做出决策，甚至是关于基本健康和生存问题的决策。

政府将数据国有化可以遏制大公司的力量。但是，历史表明，人类很大程度上不会在一个富有的政府手中活得更好。所以，我们最好要求我们的科学家、我们的哲学家、律师、甚至我们的诗人，把他们的注意力转向这个大问题上：即 你如何规范数据的所有权？

目前，人类已经变得与家养动物越来越相似了。我们曾经培育了生产大量牛奶的温顺奶牛，但远远不如其野生祖先，他们不再那么敏捷，不那么好奇，而且资源明显不足。而机器，现在正在创造驯服的人类，他们在巨大的数据处理机制中产生大量数据并作为高效芯片发挥作用，但几乎没有最大化其人类潜力。如果我们不小心，最终被滥用的机器将对人类自己和世界造成严重破坏。

如果你发现这些前景令人担忧 — — 如果你不喜欢生活在数字独裁或一些同样堕落的社会形式中 — — 那么你可以做的最重要的贡献就是：找到防止将过多数据集中在太少的人手中的方法，并找到保持分散式数据处理比集中数据处理更有效的方法。这些不是一件容易的事。但实现这些目标就是民主的最佳保障。⚪️