当AI成为社会的眼睛:我们正迎来一场自下而上的权力透明化革命
长久以来,是国家通过统计、普查、档案将社会变得“清晰可读”以利治理;如今,AI正在赋予社会前所未有的能力,去解析、追踪、问责那曾经庞大而模糊的国家机器。这不仅是技术的进步,更是一场静默的权力转移。
核心观点:以AI为代表的信息处理能力平民化,正在颠覆“国家看清社会”的传统治理逻辑,催生一场由社会反向审视、监督国家权力的深刻变革,其核心不在于技术本身,而在于权力关系的重新配置。
安德烈·卡帕西关于AI赋能社会监督政府的乐观推文,揭示了一个远比“技术辅助治理”更深刻的命题:我们可能正站在一个历史拐点,传统上由国家单向度地“看清”并管理社会的权力结构,首次面临来自社会自身的、技术赋能的逆向审视。这并非简单的透明度提升,而是一场关于“谁有资格定义清晰度,谁有能力执行监督”的根本性权力转移。几个世纪以来,现代国家的形成与巩固,紧密伴随着一套将复杂、混沌的社会现实转化为标准化、可量化、可管理的数据与分类体系的过程。从人口普查、土地测量、税收登记到身份证系统,国家的“眼睛”不断进化,旨在让社会对其自身变得“清晰可读”。社会学家詹姆斯·C·斯科特在其经典著作《国家的视角》中精辟地指出,这种“清晰化”是国家实施各项大规模社会工程——无论是城市规划、林业管理还是农业集体化——的前提,但同时也常常因简化、忽视地方性知识而带来灾难性后果。在这一范式下,清晰度是自上而下施加的,监督的权力牢牢掌握在国家及其代理人手中。然而,卡帕西的观察指出了一个相反的趋势:AI正在瓦解国家在信息处理能力上的垄断优势。政府运作产生的海量数据——法律条文、预算案、采购合同、游说记录、会议纪要、司法判决——虽然在理论上公开,但在实践中却因规模庞大、结构复杂、专业门槛高而成为“透明的黑箱”。只有极少数训练有素的专家(如调查记者、专业游说观察组织)能够穿透这层迷雾。这种“可及但不可理解”的状态,构成了传统问责机制的实质瓶颈。AI,特别是大型语言模型与数据分析工具的普及,正在以惊人的速度降低解析这些复杂信息的智力成本。它使得追踪立法文本的细微改动、绘制游说者-公司-政客-委员会-投票之间的影响网络、分析数万页预算案中的资金流向、比对政客公开承诺与实际投票记录,从一项需要数年专业训练和大量人力的艰巨任务,逐渐变成一个可以由小型团队甚至个人爱好者借助适当工具完成的工程。这意味着,监督政府的“眼睛”正在从少数专业机构,扩散到更广泛的社会肌体之中。这种扩散带来的影响是结构性的。首先,它可能改变政治博弈的成本与收益计算。当一项隐藏在数千页综合拨款法案中的特殊利益条款,可能被一个业余爱好者用AI工具在几个小时内识别并公之于众时,政治交易的隐蔽性将大打折扣。其次,它可能催生新的公民参与形式。地方市政会议、学区决策、 zoning法规调整,这些与日常生活息息相关但往往因信息过载而无人问津的领域,现在可以被AI摘要、分析并推送给相关社群,激发更具针对性的关注与行动。再者,它可能重塑媒体与公众的关系。调查性新闻的门槛并未消失,但AI可以成为记者的“力量倍增器”,同时,公民自发的数据调查也可能成为新闻线索的重要来源,形成一种去中心化的监督网络。然而,这场“社会看清国家”的革命绝非一片坦途,其内部蕴含着深刻的张力与不确定性。最直接的挑战在于,技术赋权并非均等分布。掌握更多资源、技术知识和组织能力的团体(无论是大型企业、利益集团还是特定政治派别),显然能更有效地利用这些工具来推进自身议程,可能导致监督权力的“再中心化”或“寡头化”,而非真正的民主化。普通公民面对经过AI提炼但仍需背景知识解读的复杂信息,可能依然感到隔阂,甚至因信息过载的另一种形式(即经过初步处理但仍庞杂的“洞察”过载)而加剧政治冷漠。更为根本的矛盾在于,国家机器不会被动接受这种反向审视。它可能通过制造更多的“噪音数据”(发布更冗长、更技术化的文件)、利用法律和技术手段限制关键数据的可访问性与可分析性(例如使用难以解析的文件格式、主张数据版权)、甚至发展出更复杂的“反AI审计”策略来维持其运作的不透明核心。监督与反监督,将是一场持续的技术与制度猫鼠游戏。此外,AI监督工具本身的政治性与偏见也不容忽视。训练数据的选择、分析框架的设计、可视化呈现的方式,都不可避免地嵌入着开发者的价值判断。一个旨在追踪“政府浪费”的AI工具,与一个旨在追踪“公共服务覆盖盲区”的AI工具,会引导公众关注截然不同的问题。工具并非中立,它们会塑造我们所看到的“现实”,并进而影响问责的焦点。最后,也是最值得警惕的一点是,卡帕西推文中轻描淡写提及的“工具同样可以轻易地反向切割”绝非虚言。如果社会可以用AI更清晰地审视国家,那么国家同样可以——并且很可能已经在——用更强大的AI来更精细地监控、预测、分类乃至引导社会成员。这便是“监查社会”的终极悖论:赋予社会看清国家的技术,也可能同时为国家提供看清社会每一个毛孔的终极透镜。这种双向的透明化,最终是导向一个权力更均衡、问责更有效的民主社会,还是滑向一个全景监控更加无孔不入的“数字利维坦”,取决于我们如何构建约束这些技术使用的法律、伦理与社会规范。因此,AI赋能的社会反向监督,其意义远不止于提高政府效率或打击腐败。它触及了现代政治中一个核心的、长期失衡的关系:治理者与被治理者之间的信息与知识鸿沟。技术正在填平这道鸿沟,但填平之后显露出来的,是更为复杂的权力地形。我们迎来的或许不是一个自动实现的“善治”乌托邦,而是一个监督权力剧烈动荡、重新分配的新阶段。在这个阶段,关键问题不再是“信息是否公开”,而是“谁有能力从公开的信息中建构意义、发起问责”。这场变革的最终结局,将不取决于AI算法的精度,而取决于我们能否在技术扩散的同时,培育出相应的公民素养、制度韧性与制衡智慧,确保这场自下而上的“看清”,真正服务于民主的深化,而非催生新的支配形式。
参考来源
- Something I've been thinking about - I am bullish on people (empowered by AI) increasing the visibility, legibility and accountability of their governments.
- Historically, it is the governments that act to make society legible (e.g. "Seeing like a state" is the common reference), but with AI, society can dramatically improve its ability to do this in reverse. Government accountability has not been constrained by access (the various branches of government publish an enormous amount of data), it has been constrained by intelligence - the ability to process a lot of raw data, combine it with domain expertise and derive insights. As an example, the 4000-page omnibus bill is "transparent" in principle and in a legal sense, but certainly not in a practical sense for most people. There's a lot more like it: laws, spending bills, federal budgets, freedom of information act responses, lobbying disclosures... Only a few highly trained professionals (investigative journalists) could historically process this information. This bottleneck might dissolve - not only are the professionals further empowered, but a lot more people can participate.
- Some examples to be precise: Detailed accounting of spending and budgets, diff tracking of legislation, individual voting trends w.r.t. stated positions or speeches, lobbying and influence (e.g. graph of lobbyist -> firm -> client -> legislator -> committee -> vote -> regulation), procurement and contracting, regulatory capture warning lights, judicial and legal patterns, campaign finance... Local governments might be even more interesting because the governed population is smaller so there is less national coverage: city council meetings, decisions around zoning, policing, schools, utilities...
- Certainly, the same tools can easily cut the other way and it's worth being very mindful of that, but I lean optimistic overall that added participation, transparency and accountability will improve democratic, free societies.
- (the quoted tweet is half-ish related, but inspired me to post some recent thoughts) - https://nitter.net/karpathy/status/2040549459193704852#m
- 美伊谈判反复拉扯,霍尔木兹海峡或将变成心照不宣的灰色地带【深度分析】 - https://www.bilibili.com/video/BV1azdSBNESG
- Why I built SynapseKit: the frustration, the decision, and what's next - https://www.reddit.com/r/synapsekit/comments/1srj6tu/why_i_built_synapsekit_the_frustration_the/