当AI成为社会的眼睛:权力透明化的历史性倒转及其危险
几个世纪以来,国家通过统计、地图、档案将社会变得“可读”,以实现治理。如今,AI正在赋予社会反向透视国家的能力。这不仅是技术的进步,更是一场关于谁有权“看见”、谁必须“被看见”的权力革命。然而,当每个人都手握透视镜时,我们看到的究竟是更清晰的民主图景,还是一个更易被操纵的透明牢笼?
核心观点:AI的真正革命性不在于技术本身,而在于它正在系统性颠覆“国家透视社会”这一现代治理的根本范式,将透视能力赋予社会个体,从而可能引发权力结构的根本性重组,但这一过程同时伴随着新的监控风险与民主悖论。
现代国家的诞生,与一种特定的“视觉能力”紧密相连。人类学家詹姆斯·C·斯科特在其经典著作《国家的视角》中深刻指出,现代国家治理的核心,在于通过各种技术手段——人口普查、地图绘制、标准化度量、档案系统——将复杂、混沌、地方性的社会现实,简化、抽象、整理成一套清晰、统一、可被中央权力理解和管理的“可读”文本。国家是唯一的、权威的“阅读者”,社会则是被阅读的“文本”。这种单向的“透视”关系,构成了现代官僚制、税收、征兵、城市规划乃至意识形态控制的基础。权力,在某种意义上,就是定义何为“可见”、何为“可算”、何为“事实”的能力。
然而,当前材料中一个看似分散的信号,却指向了这一古老权力关系的松动与倒置。无论是关于AI如何解析数千页的预算法案、追踪立法文本的细微改动、绘制游说者-公司-议员-委员会-投票的复杂关系图谱,还是设想对地方政府会议、 zoning决策、警务数据的全民级监督,其核心逻辑不再是国家如何更好地“看见”我们,而是“我们”如何利用前所未有的计算与模式识别能力,去“看见”国家机器的内部运作。这种“看见”不再是传统媒体调查记者式的、精英的、偶发的,而是潜在的、平民化的、系统性的。AI在此扮演的角色,不是简单的效率工具,而是权力天平上的关键砝码,它正在将斯科特笔下的“国家视角”,部分地、不均衡地转移给社会中的个体与群体。
这一转变的驱动力,表面上源于信息处理瓶颈的消解。正如材料所指,政府透明化的障碍历来不是信息“访问权”——在数据公开法框架下,海量的原始数据已然存在——而是信息“理解力”。处理4000页的综合法案,交叉比对数十年的竞选资金记录与立法投票,实时监控全球金融市场的异常交易模式并关联政治声明,这些工作需要超凡的专注力、专业知识与时间成本,天然地将参与和监督限定在极小的专业圈层内。AI,特别是大型语言模型与复杂数据分析工具,正在以指数级的速度降低这一成本。它使得原本只有“国家”或顶级机构才能承担的宏观社会透视任务,开始下放。这不仅仅是“更多的眼睛”,而是赋予了眼睛全新的、近乎显微镜与望远镜结合体的视觉模态。
由此,我们可能正站在一个历史拐点:从“强国家-弱社会”的透视格局,转向一种更为复杂、动态、也可能更不稳定的“双向透明”或“多向透视”格局。乐观的设想是,这将催生一个“认知增强型民主社会”。政府的每一项决策、每一笔开支、每一次权力寻租的尝试,都可能暴露在由无数AI辅助公民构成的、无时无刻不在进行的分布式审计之下。问责将从周期性的选举和偶发的丑闻曝光,转变为持续性的、数据驱动的压力。政治承诺与实际行动之间的差距,将变得前所未有的清晰和可度量。这或许能部分治愈当代民主的“承诺疲劳”与信任流失,迫使权力运作更加循证、负责。地方政治的复兴尤其值得期待,因为AI工具可以极大降低参与本地事务的信息门槛,让社区真正有能力监督那些远离全国媒体聚光灯、却直接影响日常生活的决策。
然而,将透视权广泛下放,绝非一个纯粹的福音故事。历史的教训是,任何观察能力的飞跃,都伴随着新的权力形态与控制风险。首先,“社会透视国家”的美好图景,预设了一个关键前提:透视工具是中立、可及且被用于公益目的的。但现实可能截然相反。最先进的AI分析工具很可能被资本、大型利益集团或政治行动委员会垄断,从而上演一场“增强型游说”对“增强型监督”的军备竞赛。结果不是权力更分散,而是透视能力本身成为新的权力壁垒,加剧政治不平等。普通公民获得的,可能是经过商业模型过滤、简化甚至娱乐化的“透明性”产品,而非真正的分析能力。
其次,双向透明极易滑向全景监控社会的升级版。当社会热衷于用AI透视政府时,政府同样会利用更强大的AI来透视社会,且其动机和资源远非民间可比。材料中关于“CEO-State”和金融内幕交易的指控,无论事实如何,都反映了人们对权力与资本结合进行隐秘操作的深层恐惧。而应对这种“增强型不透明权力”的诉求,很可能反过来正当化一种更全面、更智能的国家监控体系,以“反制资本操控”或“维护国家安全”之名。最终,我们可能陷入一个悖论:为了看清权力,我们赋予了权力看清我们一切的能力。社会与国家的相互透视,演变为一场没有隐私的、赤裸的凝视战争。
更深层的危险在于认知操纵的精密化。如果AI能帮助我们发现立法文本中埋藏的“毒丸条款”,那么它同样能帮助权力更精巧地设计这些条款,使其在AI扫描下也显得合规合理。如果AI能绘制利益输送网络,那么更高级的AI就能设计出更复杂、更隐蔽的输送路径。这不再是简单的信息不透明,而是“算法级”的信息伪装。透明性本身可能成为一种表演,一种专门针对AI审计工具和公众认知模式而优化的“合规性艺术”。当透视成为常态,隐藏的艺术也将同步进化到新的维度。
此外,这种技术赋权的愿景,还隐含了一种过于工具理性化的民主观,即认为民主的问题主要是“信息问题”和“处理能力问题”。然而,民主的危机同样源于价值撕裂、公共领域萎缩、共识形成机制失效。AI或许能告诉我们议员如何投票,但无法告诉我们何种价值选择更值得追求;它能揭示游说资金流向,但无法解决利益集团在宪法框架内的合法影响力问题;它能提高问责的“分辨率”,但无法提供化解深刻社会分歧的“方案”。甚至,信息过载和持续不断的“丑闻”曝光,可能加剧公众的政治冷感、 cynicism(犬儒主义)和愤怒,而非促成建设性的参与。当一切看似都被照亮,而根本性的结构问题依然无解时,幻灭感可能来得更猛烈。
因此,我们面临的并非一条通往技术乌托邦或反乌托邦的笔直道路,而是一片充满张力与未知的复杂地带。AI驱动的“社会透视国家”,正在解构一个旧范式,但尚未、也未必会自动建立一个更公正的新范式。它的最终形态,取决于我们如何在技术扩散的同时,进行艰难的制度创新、法律重构与伦理建设:如何确保分析工具的民主化与开源?如何立法防止AI透视能力被垄断为新的权力工具?如何在增强问责的同时,保护必要的治理隐私与决策空间?如何设计人机协作的公共审议流程,让洞察转化为行动,而不仅仅是曝光?
这不仅仅是程序员和政客的课题,更是关乎每个公民在未来政治生活中角色的根本性思考。我们正在获得的,或许不是简单的“监督权”,而是一种全新的“政治视觉”。如何使用这双眼睛,是选择聚焦于猎巫式的扒粪,还是致力于建设性的修复;是满足于个人的知情快感,还是组织起集体行动的力量;是用它来加深对立,还是寻求理解——这将决定这场透视革命,最终是照亮民主的基石,还是仅仅点燃了新一轮混乱的烽火。历史的钟摆正在晃动,从国家单方面透视社会的时代,转向一个相互凝视、同时也可能相互灼伤的时代。而我们,必须学会在这种前所未有的光亮中,既不致盲,也不迷失。
参考来源
- Something I've been thinking about - I am bullish on people (empowered by AI) increasing the visibility, legibility and accountability of their governments.
- Historically, it is the governments that act to make society legible (e.g. "Seeing like a state" is the common reference), but with AI, society can dramatically improve its ability to do this in reverse. Government accountability has not been constrained by access (the various branches of government publish an enormous amount of data), it has been constrained by intelligence - the ability to process a lot of raw data, combine it with domain expertise and derive insights. As an example, the 4000-page omnibus bill is "transparent" in principle and in a legal sense, but certainly not in a practical sense for most people. There's a lot more like it: laws, spending bills, federal budgets, freedom of information act responses, lobbying disclosures... Only a few highly trained professionals (investigative journalists) could historically process this information. This bottleneck might dissolve - not only are the professionals further empowered, but a lot more people can participate.
- Some examples to be precise: Detailed accounting of spending and budgets, diff tracking of legislation, individual voting trends w.r.t. stated positions or speeches, lobbying and influence (e.g. graph of lobbyist -> firm -> client -> legislator -> committee -> vote -> regulation), procurement and contracting, regulatory capture warning lights, judicial and legal patterns, campaign finance... Local governments might be even more interesting because the governed population is smaller so there is less national coverage: city council meetings, decisions around zoning, policing, schools, utilities...
- Certainly, the same tools can easily cut the other way and it's worth being very mindful of that, but I lean optimistic overall that added participation, transparency and accountability will improve democratic, free societies.
- (the quoted tweet is half-ish related, but inspired me to post some recent thoughts) - https://nitter.net/karpathy/status/2040549459193704852#m
- Why I built SynapseKit: the frustration, the decision, and what's next - https://www.reddit.com/r/synapsekit/comments/1srj6tu/why_i_built_synapsekit_the_frustration_the/
- 美伊谈判反复拉扯,霍尔木兹海峡或将变成心照不宣的灰色地带【深度分析】 - https://www.bilibili.com/video/BV1azdSBNESG