逆向“全景敞视”:当AI让社会开始凝视国家
安德烈·卡帕西(Karpathy)描绘了一个诱人的未来:AI将打破政府问责的“智力瓶颈”,让普通公民也能像专业调查记者一样,深度分析数千页的法案、追踪游说网络、监督政府开支。这标志着从詹姆斯·斯科特笔下的“国家看清社会”,转向“社会看清国家”的范式革命。然而,这条通往“技术赋权民主”的道路上布满了荆棘:数据迷雾、算法黑箱、权力的适应性反击,以及“认知鸿沟”的潜在扩大。技术赋予的“凝视”能力,未必能自动转化为有效的“制衡”权力。
核心观点:以Karpathy为代表的观点所展望的、由AI赋能社会对政府进行“逆向透视”的乐观图景,在技术上虽具可能,但在实践中将遭遇数据真实性、算法偏见、权力反制以及公民参与能力不均等多重挑战,其最终效果可能并非简单的民主深化,而是会重塑监督的形态并可能催生新的、更复杂的不透明领域。
几个世纪以来,政治理论中的一个核心脉络是探讨国家如何“认识”其统治的对象。詹姆斯·斯科特在《国家的视角》中精辟地指出,现代国家通过人口普查、地图绘制、标准化度量衡等方式,使复杂、凌乱的社会现实变得“清晰可读”,以便于征税、征兵和治理。这是一种自上而下的“单向透视”。如今,人工智能的倡导者们正在兴奋地预言一场反向革命:AI将赋予社会前所未有的能力,去“看清”乃至“解剖”国家机器本身。正如Karpathy所阐述的,政府问责的瓶颈从来不是数据访问(各类政府机构已公开海量数据),而是“智力”瓶颈——处理原始数据、结合领域知识并得出洞察的能力。AI,特别是大型语言模型,被认为能溶解这一瓶颈,不仅赋能专业人士,更让广大民众得以参与。从理论上讲,这似乎是一场民主监督的福音:对预算开支的细粒度审计、立法文本的差异追踪、议员投票记录与公开立场的对照分析、游说关系网络的图谱绘制……地方政府的市政会议、 zoning决策、警务数据将变得前所未有的透明可析。
这种“逆向全景敞视”的愿景极具吸引力,它承诺用技术手段解决政治学中的古老难题——代理问题。公民作为委托人,如何有效监督作为代理人的政府?AI似乎提供了终极放大镜。然而,当我们从美好的技术可能性步入复杂的政治社会现实时,会发现这条道路远非坦途。首要的障碍并非技术,而是数据的“质地”。政府公开的数据,往往以其“可公开”而非“可理解”或“可审计”的形式存在。数据可能是碎片化的、非结构化的、格式不一的,甚至存在故意的“数据沼泽”策略——用海量的、低质量的信息淹没真正的信号。AI模型固然可以处理大量文本,但如果输入的是经过精心修饰或选择性披露的信息,其输出的分析再清晰,也可能建立在扭曲的基石之上。更不用说,涉及真正敏感决策的过程,往往发生在非公开的会议、电话或非正式网络中,这些领域的数据从未被记录和公开,是AI透视无法触及的盲区。
其次,算法本身并非中立透明的“上帝之眼”。用于分析政府行为的AI模型,其训练数据、目标函数和设计者的价值观,都会深刻影响其分析框架和结论。一个由特定政治倾向团队开发的“政府支出分析工具”,可能会倾向于高估某些项目的浪费,而低估另一些项目的价值。算法可能继承甚至放大社会现有的偏见。例如,在分析警务数据时,如果历史数据本身就反映了带有偏见的执法模式,AI模型很可能将其合理化并输出带有偏见的结论,从而加固而非挑战现有的不公。此外,AI分析的“黑箱”特性可能带来新的问题。当公民依靠一个无法解释其推理过程的AI系统来形成对政府的判断时,这种监督本身是否民主、是否可靠?我们可能从依赖不透明的官僚决策,转向依赖同样不透明的算法决策,只是后者披上了“技术客观”的外衣。
第三,也是最具动态博弈色彩的一点:权力拥有者绝不会被动地接受被透视。他们会发展出复杂的反制策略。这可以称之为“权力的适应性进化”。面对AI驱动的社会监督,政府机构可能采取“合规性数据过载”,即机械地满足公开要求,但以人类和机器都难以有效处理的方式呈现数据。他们可能投资于自己的“反AI”分析工具,用于预测和应对公众的监督焦点,甚至主动释放误导性信息或利用AI生成有利于自己的宣传内容(如深度伪造的“民众支持”视频或报告)。游说集团和利益相关方同样会利用AI技术,制造更复杂、更难以追踪的影响网络,或者开发算法来模拟公众舆论、操纵监督议程。这场博弈将从传统的信息不对称,升级为算法能力与反算法能力的对抗。监督与反监督将在更高的技术维度上展开军备竞赛。
最后,Karpathy乐观设想中“更多人的参与”,可能面临严峻的“认知鸿沟”挑战。AI工具确实降低了处理信息的技能门槛,但使用、理解和批判性评估这些工具输出的能力,却可能成为一种新的、分布不均的资本。那些拥有更高数字素养、更多闲暇时间、更易接触先进工具的群体,将在这场“逆向透视”中占据主导地位,从而可能形成新的、技术赋权的“监督精英阶层”。而大多数普通人,可能依然停留在接收被AI预处理和简化的结论的层面,甚至可能因为信息过载和复杂性而更加疏离。这非但没有弥合民主参与的距离,反而可能以更精致的方式重构了不平等。监督本身可能变得专业化、技术化,从一种公民权利,异化为一种需要特定技能和资源的“技术活动”。
因此,AI赋能的社会监督,其未来图景很可能不是一幅简单的、线性进步的透明化画卷,而是一个充满张力、矛盾和新形态不透明的复杂场域。它不会消灭不透明,而是会转移不透明的形态:从文件柜里的秘密,转向算法黑箱中的权重;从闭门会议,转向对公开数据的不同解释框架之争。它可能在某些领域(如追踪公开资金的流向)显著提高能见度,同时在另一些领域(如识别更隐蔽的利益交换)催生更狡猾的规避手段。它既可能增强问责,也可能为新的操纵形式打开大门。
关键在于,我们不能将技术工具本身误认为政治解决方案。AI是强大的放大器,但它放大什么,取决于嵌入其中的社会选择、制度设计和权力结构。要让“社会看清国家”的潜能转化为积极的民主深化,我们需要并行推进至少三方面的工作:一是推动政府数据向真正机器可读、可关联、高保真的“开放数据”标准进化;二是发展算法审计和透明度机制,确保监督工具本身的可靠与公正;三是最重要的,培育与之匹配的公民数字素养和公共讨论文化,使技术赋权能够转化为广泛、深入、理性的公共审议。否则,“逆向全景敞视”的美好愿景,或许只会让我们从一个熟悉的牢笼,步入一个由数据和算法编织的、更为精致和难以察觉的新牢笼。
参考来源
- Something I've been thinking about - I am bullish on people (empowered by AI) increasing the visibility, legibility and accountability of their governments.
- Historically, it is the governments that act to make society legible (e.g. "Seeing like a state" is the common reference), but with AI, society can dramatically improve its ability to do this in reverse. Government accountability has not been constrained by access (the various branches of government publish an enormous amount of data), it has been constrained by intelligence - the ability to process a lot of raw data, combine it with domain expertise and derive insights. As an example, the 4000-page omnibus bill is "transparent" in principle and in a legal sense, but certainly not in a practical sense for most people. There's a lot more like it: laws, spending bills, federal budgets, freedom of information act responses, lobbying disclosures... Only a few highly trained professionals (investigative journalists) could historically process this information. This bottleneck might dissolve - not only are the professionals further empowered, but a lot more people can participate.
- Some examples to be precise: Detailed accounting of spending and budgets, diff tracking of legislation, individual voting trends w.r.t. stated positions or speeches, lobbying and influence (e.g. graph of lobbyist -> firm -> client -> legislator -> committee -> vote -> regulation), procurement and contracting, regulatory capture warning lights, judicial and legal patterns, campaign finance... Local governments might be even more interesting because the governed population is smaller so there is less national coverage: city council meetings, decisions around zoning, policing, schools, utilities...
- Certainly, the same tools can easily cut the other way and it's worth being very mindful of that, but I lean optimistic overall that added participation, transparency and accountability will improve democratic, free societies.
- (the quoted tweet is half-ish related, but inspired me to post some recent thoughts) - https://nitter.net/karpathy/status/2040549459193704852#m
- The BBC Just Exposed the Greatest Insider Trading Scheme in U.S. History, and Your Local News is Silent. - https://www.reddit.com/r/CURRENTEVENTS/comments/1srawkf/the_bbc_just_exposed_the_greatest_insider_trading/
- 《无限暖暖》2.5版本套装PV | 栖骨生花&渡者无归 - https://www.bilibili.com/video/BV1x7oNBvEZs