《AI的批判理论》
作者：[瑞典]西蒙·林德格伦
译者：周亦张
版本：南京大学出版社·守望者
2026年8月
技术统治论（technocracy）并非新鲜事，它在政治史上源远流长，且往往与专家统治（expert rule）互为表里。这一概念呼应了柏拉图关于“哲人王”的构想——即由掌握统治大众之“真正知识”的精英来治理；它也体现在圣西门的主张中，认为社会最高目标应是生产效率最大化；此外，泰勒主义（Taylorism）借助工程专业知识，深深嵌入管理、政治乃至日常生活的肌理，也是其生动注脚。在这类社会架构里，技术与专业特权被赋予了治理合法性，那些看似客观中立的技术流程，实则正主导并重塑着整个社会的运行轨迹。
人工智能等领域的突破，常给人一种不可阻挡、晦涩难懂且脱离人类掌控的印象。仿佛只要技术提供了实现某种功能的可能，我们就理应去尝试。这种逻辑根植于启蒙运动对进步的信仰，坚信信息与科技具备普世的解放力量。人们普遍相信，更广泛的数据获取渠道和更强大的分析能力，终将造福社会。
赫伯特·马尔库塞在《单向度的人》中曾警示过一种仅凭纯粹技术理性构建的社会形态。所谓技术理性，是指当技术的可行性反过来定义我们的社会与政治目标时，所形成的那种秩序。马尔库塞担忧，他所处时代的先进工业社会滋生了“虚假需求”。同理，当下也面临类似风险：人工智能技术的高速迭代及其展现出的无限可能，容易让我们误以为“需要”某些特定的“解决方案”，仅仅因为这些方案在技术上可行。换句话说，AI自由意志主义与技术统治论之间有着千丝万缕的联系，前者可视作后者的“当代变体”。
若要深入剖析技术统治论，不妨回溯马尔库塞的文章《现代技术的一些社会影响》，其中探讨了人与技术的羁绊。他的推演汲取了早期理论养分，阐释了技术理性如何作为工业资本主义发展的组成部分，催生出一个基于冷酷计算逻辑的社会。经典社会学家马克斯·韦伯早已论述过，现代人被迫陷入理性、可计算性与官僚制的隐喻性“铁笼”，在这个铁笼里，任何自发行为都被消除了。韦伯指出，这种演变之所以发生，是因为该体系“比其他任何组织形式都具备纯粹的技术优势”。事实上，正如韦伯时代的大型工业机器，当今由AI驱动的决策系统与自动化装置也提供了类似的特质：“精确性、速度、明确性、档案知识的掌握、连续性、谨慎性、统一性、严格的从属关系以及较少的摩擦。”翻阅当前提供AI自动化服务的企业的营销文案，便能印证这一点：
你是否同时依赖多个产品、供应商和用户界面（UI）来辅助决策？若能拥有一个单一的用户界面，统筹所有技术解决方案，从而让你摆脱对信用风险周期碎片化且不完备的认知，那将如何？(Provenir, 2022)
通过智能流程自动化服务重构你的员工队伍，为你节省资金，提升准确性并提高生产率。(TietoEVRY, 2021)
（我们的）自动化招聘软件旨在赋能招聘人员，助其发挥最佳水平：每次均推送符合你标准的精选候选人；通过数据分析，让你迅速掌握招聘目标的达成情况。……我们并非普通的AI招聘软件。（我们将）机器学习与人类洞察力相融合，使顶尖团队无需耗费大量时间搜寻人才，即可快速搭建多元化且合格的候选人渠道。(fetcher, 2022)
这些论述暗示，该技术有望带来——借用韦伯的词汇——精确、高效、知识与审慎，并减少摩擦。但与此同时，这也以“严格的从属关系”为代价。正如马克思所言，在工业资本主义体系中，工人“作为商品在市场上出卖”。这与AI招聘提供“批量”候选人及“渠道”的概念如出一辙。
图源/unsplash
AI系统在加剧不健康的合理化与商品化方面，潜藏着巨大而危险的力量。就此而言，AI资本主义与工业资本主义并无二致。手段与机器虽新，目的与后果却趋于一致。加州意识形态的特征与此类似，早期工业资本主义在社会理论经典中被描述为具有一种自然化、不可阻挡的意识形态色彩。社会学家托斯丹·凡勃伦曾写道，这项技术是“盲目且不负责任的”：
因此，这项技术的逻辑即是机器过程的逻辑，一种关乎质量、速度、张力与推力的逻辑，而非个人的灵巧、机敏、训练与惯例的逻辑……
回归马尔库塞，他所批判的正是这种精准的技术理性。他提出应将技术视为一种社会过程。“技术本身”，即AI系统、算法、机器学习模型等实体，仅是“技术”整体的一部分，整体还涵盖社会要素。技术诞生于社会语境之中，AI也不例外。马尔库塞强调，技术与社会相互依存，这不仅体现在“发明或照看机器”的人（AI开发者、部署者、人机回圈中的人类操作者）身上，也体现在技术所指向的社会群体及使用它的个体身上。换言之，马尔库塞认为，技术不仅关乎小工具，更关乎它们如何塑造社会组织并介入社会关系。重申一次，这是一种装配。技术可以体现社会中普遍存在的思维与行为模式，进而可能沦为统治与控制的手段。
马尔库塞指出，正是在此框架内，随着历史长河中技术的发展，社会中确立了一种新的理性与社会规范。他所描述的技术理性，既非“机器”对人的直接物理影响，亦非其衍生影响。相反，关于技术理性的观念本身，亦是“机器发展的决定性因素”。在AI装配的语境下，这意味着AI既在塑造社会，也在被社会所塑造。
正是通过物质-技术维度与意识形态维度之间相互增强的互动，技术理性在工业资本主义中确立为“普遍的思维模式”，它“建立了判断标准，培养了态度”。因此，除了针对特定AI应用提出那些重要但或许短视的伦理与公平问题外，我们还必须探讨这些技术如何更广泛地成为社会生活的指南。马尔库塞借一则逸事阐释了技术理性的概念：
让我们举一个简单的例子。一个开车去远方的人在公路地图上选择他的路线。城镇、湖泊和山脉似乎是需要绕过的障碍。乡村是由高速公路塑造和组织的：人们在路上发现的是高速公路的副产品或附属设施。许多标志与海报告诉旅行者该做什么和想什么，它们甚至要求他注意大自然的美丽或历史的印记。其他人已为他做了考虑，这或许是为了更好的体验。人们在视野最开阔、最令人惊叹的地方建造了方便的停车场。巨大的广告牌告诉他什么时候停下来，休息片刻，消除疲劳。这一切确实是为了他的利益、安全和舒适；他得到了他想要的东西。商业、技术、人类需求和自然融合在一起，形成了一个合理而便利的机制。谁遵循它的指示，让自己的自发性服从为他安排一切的匿名智慧（anonymous wisdom），谁就会旅行得最舒适。(Marcuse, 1941, 46)
马尔库塞意在说明，在一个由技术理性主导的社会中，（太多）事物被标准化和控制。即便我们与环境中更多非结构化的部分（“湖泊”和“山脉”）产生关联，它们也极易被视为障碍。当AI模型过度简化现实时，是否也在这样做：告诉我们什么是重要的，指引我们为哪些景色着迷，告知我们在何处“停车”，在哪里“驻足”？
计算机科学家杰森·S.梅特卡夫及其同事在探讨AI及相关技术为何未能充分发挥潜力时，强调了这一问题。主要原因在于人们普遍倾向于过度简化人与技术之间的相互作用。“所有模型都是错误的”是统计学中的一句常见格言，如今许多机器学习应用程序中存在一种趋势，即通过使用过于简化的衡量标准来判断预测的价值。正如生物学家所解释，这可能导致对“分类器在现实世界场景中的适用性”持有“天真”的假设。AI面临的一个伦理困境，便与“将复杂问题过度简化为单一算法输出的担忧”紧密相关。
马尔库塞关于旅行者的逸事还揭示了另一个问题：在受技术理性支配的社会中，人们被“匿名智慧”告知“该做什么和想什么”。AI是近年来定向广告发展的关键推手。通过定向广告，在线主体被算法识别，并被引导至特定的消费理念或形式。正如肖莎娜·祖博夫所描述，这种算法广告象征着她所称的“监控资本主义”的“新兴积累逻辑”。同样，克里斯蒂安·福克斯认为，在数字资本主义中，定向广告是一种常见做法，Meta等公司借此隐藏其“对用户活动的剥削”；而这会产生“用于销售定向广告和赚取巨额利润”的数据。这高度契合讲求效率、合理化与利润的意识形态。IBM沃森在这一领域的宣传文案如下：
广告中的AI是指在机器中模拟人类智能，这些机器被编程得像人类一样思考，并根据投喂给它们的信息模仿人的行为。它们利用历史数据从过去的经验中学习，并在未来做出更明智的决策。广告商可以使用AI创造更个性化的体验，精准定位目标受众，更快地做出决策。(IBM,2022)
AI驱动的广告倾向于为我们做出选择，就像电视、电影和音乐流媒体服务中的算法一样，指引我们接下来看什么或听什么。这与科技哲学家刘易斯·芒福德在《技术与文明》一书中关于人类的观点相呼应。他在书中将工业资本主义中的人描述为“客观人格”（objective personalities）而非“主观人格”（subjective personalities）。前者的倾向和行为是通过“机器过程”的“事实性”来协调与标准化的。显然，在AI行业中，人们担心其系统中潜在的偏见问题。但IBM写道：“尽管在处理AI时，偏见可能对广告商来说是一个挑战，但如果部署得当，机器学习技术也可以帮助减轻广告活动中的偏见。”他们的论点说白了就是，更多、更好或其他的AI将解决AI的问题。但正如芒福德近一百年前所说：
认为机器造成的社会困境可以仅仅通过发明更多的机器来解决，这在今天是一种不成熟的思维的标志，近乎江湖骗术。(Mumford,1934,367)
萨多斯基解释说，那些信奉技术理性意识形态的人，即技术统治论者，相信他们拥有一套可用于解决任何问题的工具。随之而来的是“深深的傲慢”“对自身局限性的极度无知”和“对其他方法的极度漠视”。马尔库塞认为，这种思维导致人类适应了缺乏真正自主性的“装置”。重要的是，通过这种方式，装置的逻辑超越了技术领域，延伸至社会、文化，甚至个人的思想深处：
人类行为被配备了机器过程的理性。(Marcuse,1941,47)
图源/unsplash
作为补充例证，科幻作家和未来主义者斯坦尼斯瓦夫·莱姆在其著作《技术大全》中论述了技术如何“在自身进化的过程中缓慢地控制着几乎整个社会运行机制”。马尔库塞进一步认为，随着“顺从机制”（mechanics of conformity）从技术领域扩散至社会秩序中，这些机制不仅将成为机器的管理者，还将成为学校、工作场所、社会组织以及人们私人生活的管理者。就AI驱动的推荐系统和AI助推（nudging）而言，存在一种潜在风险，即我们正走向马尔库塞所言的情景：批判性思维被视为“社会性的无能”，因为人们的思想在“技术理性的影响下”变得标准化。
这里的危险在于，我们的生活和思想越受到技术理性的渗透，质疑或反对现状的批判理性的空间就越小。因此，技术统治论声称自己是充分优化的、客观的和高效的，从而将其“解决社会问题的方案当作低效政治程序的实用替代品”。应用一种不完美的算法，肯定比深入研究性别歧视、种族主义等问题更具诱惑力，也更有利可图。正如萨多斯基所言，技术统治论和加州意识形态的自由意志主义之间也有明显的联系：
只要听过在硅谷大受欢迎的企业家、工程师和高管的主题演讲，就会觉得技术统治论的思维模式——所谓的非意识形态的意识形态——很耳熟。这包括埃隆·马斯克对乘坐公共交通的厌恶（解决方案是地下隧道），以及投资者马克·安德森对印度阻止脸书向新市场扩张的愤怒（解决方案是拥抱殖民主义）。(Sadowski, 2020, 68)
正如萨多斯基所指出的那样，技术统治论的一个显著危险在于，尽管它看起来是“非意识形态的”，但它肯定是意识形态的。随着技术被视为一种自然力量，技术天才和巨头被视为拯救世界的好撒玛利亚人（Samaritan），问题永远是如何做，而从来不是为何做。在这个意义上，技术统治论是一种威权主义形式，它规避了民主决策，混淆了道德复杂性，有利于“设计通往乌托邦之路”的专家，而“所有人类价值观都可以被忽视、弱化或重新定义为技术参数”。
本文摘自《AI的批判理论》一书，经出版社授权刊发。
原文作者/西蒙·林德格伦
摘编/张进
编辑/张进
