当AI成为社会的眼睛:一场正在发生的权力倒置
长久以来,国家通过统计、登记、监控等手段“看清”社会,以实现治理。如今,AI正在赋予社会反向“看清”国家的能力。这不仅是技术的进步,更是一场关于权力、透明与问责的静默革命。
核心观点:AI的真正革命性潜力,不在于创造新生产力,而在于系统性瓦解信息不对称,将传统上由国家垄断的“社会可读性”权力,部分甚至全部交还给公民个体,从而引发治理模式的根本性重构。
在政治学经典著作《国家的视角》中,詹姆斯·C·斯科特深刻剖析了现代国家如何通过各种技术手段——人口普查、地图绘制、标准化度量——来使复杂的社会变得“清晰可读”,从而实施治理、征税和动员。这种“可读性”是国家权力的基石。然而,今天,一种反向的“可读性”正在生成:社会开始有能力,以一种前所未有的精细度和规模,来“阅读”国家本身。驱动这一转变的核心引擎,正是人工智能。这远非简单的“政府信息公开”或“数据开放”的线性延伸,而是一场深刻的权力倒置实验,其影响将触及民主制度的每一个毛细血管。
传统的社会监督模式,高度依赖于一个稀缺且专业的群体:调查记者、学者、审计人员。他们如同在信息的汪洋中驾驶孤舟,凭借经验、人脉和毅力,打捞出零星的真相。瓶颈不在于信息的“可得性”——事实上,现代政府产生的数据浩如烟海,从数千页的综合法案、联邦预算明细、游说披露记录,到地方议会的会议纪要和采购合同——而在于信息的“可处理性”。普通公民,甚至大多数专业人士,面对如此庞大、专业、分散的原始数据,都如同文盲面对天书。这种处理能力的绝对不对称,构成了现代治理中一道隐形的、却异常坚固的壁垒。它使得许多理论上透明公开的程序,在实践中变成了黑箱。一个典型的例子是,一部4000页的综合性法案在投票前几小时才被公布,议员们尚且来不及细读,公众的监督更是无从谈起。透明度在形式上存在,却在实质上缺席。
AI,特别是大型语言模型和多模态分析工具,正在以惊人的效率溶解这一瓶颈。它不再仅仅是检索关键词的工具,而是能够理解上下文、建立关联、总结趋势、发现异常的分析伙伴。想象一下,一个AI系统可以实时“阅读”所有立法草案的修订版本,自动生成一份“差异追踪”报告,清晰标出每一处增删改动的具体内容、潜在影响和可能受益方。它可以构建游说者、其所属公司、客户、目标议员、相关委员会、最终投票和出台法规之间的动态关系图谱,让隐形的利益输送网络显形。它可以分析某个议员历年的投票记录与其公开演讲、竞选承诺的关联度,量化其“言行一致”指数。在地方层面,这种能力更具颠覆性:AI可以转录、分析每一场市议会关于 zoning、警务预算、学校政策的冗长辩论,将核心争议、各方立场和潜在影响提炼成普通人可理解的简报。这意味着,监督政府的“智力门槛”被急剧降低,从少数专家的专利,变成了可以被广泛共享的公共能力。
这引发了一个根本性的权力转移:从国家单方面定义和观察社会,转向社会能够集体性地观察和质询国家。国家行动的逻辑,将不得不更多地考虑其行为在这样一个高分辨率、实时化的“社会之眼”下的可解释性。政策的制定、预算的分配、法规的通过,将面临来自四面八方的、基于深度数据挖掘的审视。这可能会催生一种新型的“算法驱动的问责制”。例如,政府采购中的异常模式可能被自动标记,司法判决中的潜在偏见可能被系统性分析,竞选资金流动的每一个环节都可能被置于阳光之下。这种全景敞视的监督,其威慑力可能远超传统的、偶发性的丑闻曝光。
然而,这场权力倒置实验绝非一片坦途,其内部蕴含着深刻的张力和风险。首先,技术赋权的不平等可能加剧现有的社会分裂。拥有技术资源、数据素养和闲暇时间的群体,将能更有效地利用这些工具,从而在政治影响力上进一步拉开与弱势群体的差距,形成“数字精英监督”的新阶层。其次,AI本身并非客观中立的仲裁者。训练数据的偏见、算法模型的黑箱、设计者的价值取向,都可能被嵌入到监督工具之中,导致其输出的“真相”本身是带有倾向性的建构,甚至可能被用于发起针对特定官员或政策的有组织、数据驱动的抹黑运动。再者,国家机器不会被动接受这种反向透视。我们很可能看到“反制技术”的兴起:利用AI生成海量的、无意义的“数据烟雾弹”来干扰分析;通过复杂化立法语言以对抗自然语言处理;甚至修改数据公开的格式和标准,增加机器解析的难度。一场“猫鼠游戏”将在代码层面展开。
更深刻的矛盾在于治理逻辑的冲突。传统官僚体系的运作,依赖于一定的模糊空间、非正式协商和渐进调试,这往往是应对复杂社会问题所必需的。而AI驱动的极致透明与即时问责,可能迫使政府行为趋于短视、僵化和防御性。每一项微小的决策都可能被放大检视,导致行政效率降低,创新性的政策实验因惧怕失败而被扼杀。社会可能陷入一种“透明性的暴政”,人人都看得见,却无人能承担行动的责任。此外,当公民习惯于依赖AI提炼的“结论”而非参与原始的、嘈杂的民主审议过程时,公民政治判断的能力是否会退化?我们对复杂性的容忍度是否会降低?这关乎民主素养本身的重塑。
因此,AI赋能的社会监督,其未来走向并非技术决定论的单一路径。它更像是一个开放的竞技场,其结果取决于我们如何设计制度、规范技术和培育公民文化。我们需要建立关于公共领域AI应用的新伦理框架与审计标准,确保其公正性。我们需要通过公共教育和工具普惠,防止“监督鸿沟”的扩大。我们更需要一场关于“何为良好监督”的社会大讨论:监督的目的不应是让政府瘫痪,而是让其更好地负责;透明度不应取代信任,而应成为构建更健康信任关系的基础。最终,技术只是放大了人类社会中古老的问题:权力、制衡与共识。AI给了社会一副更明亮的眼镜,但我们要用它来看向何处,以及如何共同行走,这仍然取决于我们自己的智慧与选择。这场从“国家看清社会”到“社会看清国家”的倒置,才刚刚拉开序幕,它预示的不是一个透明的乌托邦,而是一个权力关系更复杂、博弈更激烈、也更需要审慎与创造力的政治新纪元。
参考来源
- Something I've been thinking about - I am bullish on people (empowered by AI) increasing the visibility, legibility and accountability of their governments.
- Historically, it is the governments that act to make society legible (e.g. "Seeing like a state" is the common reference), but with AI, society can dramatically improve its ability to do this in reverse. Government accountability has not been constrained by access (the various branches of government publish an enormous amount of data), it has been constrained by intelligence - the ability to process a lot of raw data, combine it with domain expertise and derive insights. As an example, the 4000-page omnibus bill is "transparent" in principle and in a legal sense, but certainly not in a practical sense for most people. There's a lot more like it: laws, spending bills, federal budgets, freedom of information act responses, lobbying disclosures... Only a few highly trained professionals (investigative journalists) could historically process this information. This bottleneck might dissolve - not only are the professionals further empowered, but a lot more people can participate.
- Some examples to be precise: Detailed accounting of spending and budgets, diff tracking of legislation, individual voting trends w.r.t. stated positions or speeches, lobbying and influence (e.g. graph of lobbyist -> firm -> client -> legislator -> committee -> vote -> regulation), procurement and contracting, regulatory capture warning lights, judicial and legal patterns, campaign finance... Local governments might be even more interesting because the governed population is smaller so there is less national coverage: city council meetings, decisions around zoning, policing, schools, utilities...
- Certainly, the same tools can easily cut the other way and it's worth being very mindful of that, but I lean optimistic overall that added participation, transparency and accountability will improve democratic, free societies.
- (the quoted tweet is half-ish related, but inspired me to post some recent thoughts) - https://nitter.net/karpathy/status/2040549459193704852#m
- 美伊谈判反复拉扯,霍尔木兹海峡或将变成心照不宣的灰色地带【深度分析】 - https://www.bilibili.com/video/BV1azdSBNESG
- Why I built SynapseKit: the frustration, the decision, and what's next - https://www.reddit.com/r/synapsekit/comments/1srj6tu/why_i_built_synapsekit_the_frustration_the/