从“国家看清社会”到“社会看清国家”:AI如何重写权力透明的剧本
一位AI科学家在社交媒体上表达了他的乐观:AI将赋能普通人,以前所未有的方式监督政府。这并非空想——当AI能瞬间解析四千页的法案、勾勒出游说者与立法者之间的利益网络时,权力运作的“黑箱”似乎正在变得透明。然而,这场技术驱动的透明化革命,真的会导向更健康的民主吗?还是会在拆解旧有信息壁垒的同时,筑起新的认知高墙?我们正站在一个历史性的拐点:技术第一次让社会大规模地拥有了“反向凝视”国家的能力。
核心观点:以ChatGPT为代表的大语言模型,正将政府问责的瓶颈从“信息获取”推向“信息理解”,公众首次获得大规模解构复杂治理文本的能力,这可能引发一场自下而上的“社会清晰化”运动,但技术本身的双刃剑属性也带来了新的操纵与分化风险。
安德烈·卡帕西,一位在AI领域享有盛誉的科学家,最近在社交媒体上分享了一个令他感到“乐观”的想法:AI将赋能人们,极大地增强对政府的可见性、可读性和问责能力。他指出了一个历史性的翻转:过去,是“国家”试图让“社会”变得清晰可读(正如詹姆斯·斯科特在《国家的视角》中所描述的那样),以便于征税、征兵和管理;而现在,AI可能让“社会”获得前所未有的能力,来反向解读“国家”。这个观点看似技术乐观主义者的畅想,实则触及了数字时代权力关系演化的核心神经。我们正在见证的,可能不仅仅是一种新工具的应用,而是一场关于“谁有权看清谁”的深刻秩序变革。
传统上,政府问责的障碍主要被归结为“信息不公开”或“信息不透明”。阳光法案、信息公开条例等,都是旨在解决“获取”问题。然而,卡帕西精准地指出了另一个更顽固的瓶颈:智力瓶颈。政府产生的数据是海量的——法律条文、预算草案、拨款法案、游说记录、政府采购合同、司法判例……它们在技术上可能是公开的,但在实践上,对绝大多数公民而言,无异于天书。理解这些材料需要专业的法律知识、财务知识、政策分析能力和海量的时间精力。历史上,只有少数精英——如调查记者、专业分析师、利益集团雇佣的专家——才能扮演这种“翻译”和“监督”角色。公众的监督权,因此常常是间接的、滞后的、被中介的。AI,特别是大语言模型,正在改变这一切。它能够以极低的成本,快速阅读、总结、对比、关联海量文本与数据,将四千页的综合拨款法案浓缩成普通人可理解的要点,追踪某一项条款的修改历程,甚至绘制出“游说者-公司-客户-立法者-委员会-投票-法规”之间的影响网络。这意味着,监督政府所需的“智力”门槛正在被技术大幅降低。
这预示着一种“社会清晰化”进程的可能。过去,清晰化是单向的,是国家机器向下凝视,将纷繁复杂的社会现实简化为标准化、可管理的数据点(如人口普查、土地登记、标准化度量衡)。现在,技术提供了反向的可能:社会中的个体和群体,可以自下而上地,将庞大、模糊、专业的国家行动,转化为可理解、可讨论、可质疑的公共议题。地方政治可能成为更早的试验场:市议会会议记录、学区预算分配、 zoning规划决策、警用资金明细……这些与日常生活息息相关却又因信息过于琐碎专业而被忽视的领域,在AI工具的辅助下,可能变得前所未有的清晰。公民参与的门槛降低了,监督的颗粒度变细了,这理论上可以强化民主的反馈回路,让政策更贴近民意,让权力更负责任。
然而,技术赋能从来不是一条单行道。在欢呼“社会之眼”变得明亮的同时,我们必须警惕其可能带来的新阴影。首先,是“理解”的幻觉。AI提供的总结、分析和关联,本身是基于模型训练数据和算法逻辑的建构。它可能遗漏关键背景,误解法律术语的特定含义,或因其训练数据中的偏见而呈现扭曲的图景。一个公民依赖AI生成的“法案解读”去形成政治判断,其风险不亚于过去依赖立场鲜明的媒体。其次,是新的信息不对称与操纵。能够熟练使用高级AI工具进行深度分析的,依然可能是资源更丰富的机构、利益集团或政治行动委员会。他们可以利用AI生成更具说服力的宣传材料、更精准地定位信息投放、甚至制造更难以甄别的虚假信息流。技术可能并未消除精英与大众在政治认知上的鸿沟,只是改变了鸿沟的形式。更令人担忧的是,AI可能加剧政治极化和“回音室”效应。如果每个人都能让AI按照自己偏好的叙事框架来解读同一份政府文件,那么得到的结果可能南辕北辙,共同事实的基础将进一步瓦解,社会共识将更难达成。
此外,政府本身也不会是被动的观察对象。它们同样会采用AI技术来管理公共舆论、预测社会反应、优化政策表述,甚至可能生成复杂的、旨在应对或绕过AI监督的文本。一场“AI赋能的监督”与“AI赋能的应对”之间的技术军备竞赛可能悄然上演。而在这场竞赛中,技术能力和资源的不平等,可能复制甚至加剧现有的政治不平等。
因此,卡帕西的“乐观”需要建立在审慎的基石之上。AI带来的,不是一道简单的、让权力变透明的“光芒”,而是一套全新的、更复杂的“光学系统”。它改变了我们“看”的方式、“看”到的内容、以及“看”的主体。这场变革能否真正导向更负责任的治理和更深入的民主参与,不取决于技术本身,而取决于我们如何塑造使用技术的规则、文化和制度。我们需要推动AI工具本身的透明度和可解释性,发展数字时代的新型媒介素养教育,让公众理解AI分析的局限性;我们需要建立新的机制,来验证和仲裁不同AI分析结论之间的冲突;我们更需要确保这些强大的分析工具能被广泛、公平地获取和使用,而不是成为少数人的特权。
最终,问题不在于AI能否让社会看清国家,而在于一个被AI重新媒介化的“看清”过程,将塑造一个怎样的公共领域和政治文化。是将我们带入一个公民积极参与、理性辩论、权力高度负责的“增强民主”时代,还是陷入一个信息迷雾更深、认知冲突更烈、信任更加稀缺的“后真相”泥潭?答案不在代码之中,而在我们——技术的使用者、规则的制定者、社会的成员——的集体选择之中。我们正在重写权力透明的剧本,而最大的悬念是,我们能否写出一个对自己有利的结局。
参考来源
- Something I've been thinking about - I am bullish on people (empowered by AI) increasing the visibility, legibility and accountability of their governments.
- Historically, it is the governments that act to make society legible (e.g. "Seeing like a state" is the common reference), but with AI, society can dramatically improve its ability to do this in reverse. Government accountability has not been constrained by access (the various branches of government publish an enormous amount of data), it has been constrained by intelligence - the ability to process a lot of raw data, combine it with domain expertise and derive insights. As an example, the 4000-page omnibus bill is "transparent" in principle and in a legal sense, but certainly not in a practical sense for most people. There's a lot more like it: laws, spending bills, federal budgets, freedom of information act responses, lobbying disclosures... Only a few highly trained professionals (investigative journalists) could historically process this information. This bottleneck might dissolve - not only are the professionals further empowered, but a lot more people can participate.
- Some examples to be precise: Detailed accounting of spending and budgets, diff tracking of legislation, individual voting trends w.r.t. stated positions or speeches, lobbying and influence (e.g. graph of lobbyist -> firm -> client -> legislator -> committee -> vote -> regulation), procurement and contracting, regulatory capture warning lights, judicial and legal patterns, campaign finance... Local governments might be even more interesting because the governed population is smaller so there is less national coverage: city council meetings, decisions around zoning, policing, schools, utilities...
- Certainly, the same tools can easily cut the other way and it's worth being very mindful of that, but I lean optimistic overall that added participation, transparency and accountability will improve democratic, free societies.
- (the quoted tweet is half-ish related, but inspired me to post some recent thoughts) - https://nitter.net/karpathy/status/2040549459193704852#m
- Algorithm-Based Earnings Put Screen: April 21–25 Results - https://www.reddit.com/r/thetagang/comments/1solqss/algorithmbased_earnings_put_screen_april_2125/
- Women's reservation and delimitation - further proof that our leaders don't care about either, in substance and implementation - https://www.reddit.com/r/india/comments/1so55ia/womens_reservation_and_delimitation_further_proof/