安德烈·卡帕西(Karpathy)描绘了一个诱人的未来:AI将打破政府问责的“智力瓶颈”,让普通公民也能像专业调查记者一样,深度分析数千页的法案、追踪游说网络、监督政府开支。这标志着从詹姆斯·斯科特笔下的“国家看清社会”,转向“社会看清国家”的范式革命。然而,这条通往“技术赋权民主”的道路上布满了荆棘:数据迷雾、算法黑箱、权力的适应性反击,以及“认知鸿沟”的潜在扩大。技术赋予的“凝视”能力,未必能自动转化为有效的“制衡”权力。

核心观点:以Karpathy为代表的观点所展望的、由AI赋能社会对政府进行“逆向透视”的乐观图景,在技术上虽具可能,但在实践中将遭遇数据真实性、算法偏见、权力反制以及公民参与能力不均等多重挑战,其最终效果可能并非简单的民主深化,而是会重塑监督的形态并可能催生新的、更复杂的不透明领域。

几个世纪以来,政治理论中的一个核心脉络是探讨国家如何“认识”其统治的对象。詹姆斯·斯科特在《国家的视角》中精辟地指出,现代国家通过人口普查、地图绘制、标准化度量衡等方式,使复杂、凌乱的社会现实变得“清晰可读”,以便于征税、征兵和治理。这是一种自上而下的“单向透视”。如今,人工智能的倡导者们正在兴奋地预言一场反向革命:AI将赋予社会前所未有的能力,去“看清”乃至“解剖”国家机器本身。正如Karpathy所阐述的,政府问责的瓶颈从来不是数据访问(各类政府机构已公开海量数据),而是“智力”瓶颈——处理原始数据、结合领域知识并得出洞察的能力。AI,特别是大型语言模型,被认为能溶解这一瓶颈,不仅赋能专业人士,更让广大民众得以参与。从理论上讲,这似乎是一场民主监督的福音:对预算开支的细粒度审计、立法文本的差异追踪、议员投票记录与公开立场的对照分析、游说关系网络的图谱绘制……地方政府的市政会议、 zoning决策、警务数据将变得前所未有的透明可析。

这种“逆向全景敞视”的愿景极具吸引力,它承诺用技术手段解决政治学中的古老难题——代理问题。公民作为委托人,如何有效监督作为代理人的政府?AI似乎提供了终极放大镜。然而,当我们从美好的技术可能性步入复杂的政治社会现实时,会发现这条道路远非坦途。首要的障碍并非技术,而是数据的“质地”。政府公开的数据,往往以其“可公开”而非“可理解”或“可审计”的形式存在。数据可能是碎片化的、非结构化的、格式不一的,甚至存在故意的“数据沼泽”策略——用海量的、低质量的信息淹没真正的信号。AI模型固然可以处理大量文本,但如果输入的是经过精心修饰或选择性披露的信息,其输出的分析再清晰,也可能建立在扭曲的基石之上。更不用说,涉及真正敏感决策的过程,往往发生在非公开的会议、电话或非正式网络中,这些领域的数据从未被记录和公开,是AI透视无法触及的盲区。

其次,算法本身并非中立透明的“上帝之眼”。用于分析政府行为的AI模型,其训练数据、目标函数和设计者的价值观,都会深刻影响其分析框架和结论。一个由特定政治倾向团队开发的“政府支出分析工具”,可能会倾向于高估某些项目的浪费,而低估另一些项目的价值。算法可能继承甚至放大社会现有的偏见。例如,在分析警务数据时,如果历史数据本身就反映了带有偏见的执法模式,AI模型很可能将其合理化并输出带有偏见的结论,从而加固而非挑战现有的不公。此外,AI分析的“黑箱”特性可能带来新的问题。当公民依靠一个无法解释其推理过程的AI系统来形成对政府的判断时,这种监督本身是否民主、是否可靠?我们可能从依赖不透明的官僚决策,转向依赖同样不透明的算法决策,只是后者披上了“技术客观”的外衣。

第三,也是最具动态博弈色彩的一点:权力拥有者绝不会被动地接受被透视。他们会发展出复杂的反制策略。这可以称之为“权力的适应性进化”。面对AI驱动的社会监督,政府机构可能采取“合规性数据过载”,即机械地满足公开要求,但以人类和机器都难以有效处理的方式呈现数据。他们可能投资于自己的“反AI”分析工具,用于预测和应对公众的监督焦点,甚至主动释放误导性信息或利用AI生成有利于自己的宣传内容(如深度伪造的“民众支持”视频或报告)。游说集团和利益相关方同样会利用AI技术,制造更复杂、更难以追踪的影响网络,或者开发算法来模拟公众舆论、操纵监督议程。这场博弈将从传统的信息不对称,升级为算法能力与反算法能力的对抗。监督与反监督将在更高的技术维度上展开军备竞赛。

最后,Karpathy乐观设想中“更多人的参与”,可能面临严峻的“认知鸿沟”挑战。AI工具确实降低了处理信息的技能门槛,但使用、理解和批判性评估这些工具输出的能力,却可能成为一种新的、分布不均的资本。那些拥有更高数字素养、更多闲暇时间、更易接触先进工具的群体,将在这场“逆向透视”中占据主导地位,从而可能形成新的、技术赋权的“监督精英阶层”。而大多数普通人,可能依然停留在接收被AI预处理和简化的结论的层面,甚至可能因为信息过载和复杂性而更加疏离。这非但没有弥合民主参与的距离,反而可能以更精致的方式重构了不平等。监督本身可能变得专业化、技术化,从一种公民权利,异化为一种需要特定技能和资源的“技术活动”。

因此,AI赋能的社会监督,其未来图景很可能不是一幅简单的、线性进步的透明化画卷,而是一个充满张力、矛盾和新形态不透明的复杂场域。它不会消灭不透明,而是会转移不透明的形态:从文件柜里的秘密,转向算法黑箱中的权重;从闭门会议,转向对公开数据的不同解释框架之争。它可能在某些领域(如追踪公开资金的流向)显著提高能见度,同时在另一些领域(如识别更隐蔽的利益交换)催生更狡猾的规避手段。它既可能增强问责,也可能为新的操纵形式打开大门。

关键在于,我们不能将技术工具本身误认为政治解决方案。AI是强大的放大器,但它放大什么,取决于嵌入其中的社会选择、制度设计和权力结构。要让“社会看清国家”的潜能转化为积极的民主深化,我们需要并行推进至少三方面的工作:一是推动政府数据向真正机器可读、可关联、高保真的“开放数据”标准进化;二是发展算法审计和透明度机制,确保监督工具本身的可靠与公正;三是最重要的,培育与之匹配的公民数字素养和公共讨论文化,使技术赋权能够转化为广泛、深入、理性的公共审议。否则,“逆向全景敞视”的美好愿景,或许只会让我们从一个熟悉的牢笼,步入一个由数据和算法编织的、更为精致和难以察觉的新牢笼。