上千智能体在清华实验中为何走向观点极化?

据36氪报道,清华等团队将1000个大语言模型智能体接入可反复交流的网络。研究观察到,不到10轮互动后,中立观点大幅减少,左右两个阵营与同类连接同步出现。

这项研究的核心是多智能体观点极化机制,而不是单个模型突然拥有“政治立场”:智能体反复选择交流对象、传递信息并更新立场,局部行为随之累积为系统级阵营化。但“自发”不等于没有约束,因为交流任务、劝说目标和更新方式仍由提示词与交互流程规定。

实验采用千节点网络

主实验中的每个网络包含1000个智能体,部分机制实验采用100个智能体;议题覆盖美国党派倾向、枪支管制和堕胎禁令。智能体自报立场被编码为−2、−1、0、1、2五档,分别对应左、偏左、中性、偏右和右。

初始立场呈近似钟形分布,中立立场约占40%;初始连接来自Watts–Strogatz小世界网络。换言之,这项实验观察的是“给定初始观点与网络结构后,系统如何演化”,而非从零生成一个完整社会网络。

三步互动持续更新立场

每轮互动分为自我表达、信息交流和观点更新三步。智能体先为当前立场生成支持理由,再决定联系已有伙伴还是随机遇到的新伙伴,并生成劝说信息,最后依据收到的信息调整立场,同时重新解释自己的理由。

连接关系也会随互动改变:观点相近者更容易建立联系,观点相左者则可能被疏远。每轮状态均可记录,因此研究者能够追踪观点从初始分布走向两极的完整轨迹。

同类连接并非硬编码

系统没有写死“只与同立场者交谈”的规则。同类连接是智能体在既定交互流程中形成的结果,而不是研究人员直接加入的分组命令。

更准确地说,“自发”指的是系统级结果没有被直接编码,而不是智能体可以不受任务和流程约束。持续连接、观点更新与网络重组构成一个反馈环:立场区分逐渐清晰后,相似观点之间的连接更加集中,阵营化随之增强。

中立阵营快速收缩

不到10轮互动后,三个议题的中立观点占比从初始约40%分别降至22.5%、0.4%和5.1%,原来的近似钟形分布迅速分化为两个阵营。

研究使用“各智能体到中立位置的平均距离”衡量极化,取值范围为0—2,数值越大表示整体立场越远离中性。这个指标反映的是距离,不直接表示左右阵营是否均衡;后者仍需查看五档立场的完整分布。

五个骨干模型均出现极化

极化现象在GPT-3.5、GPT-4o、ChatGLM、Llama-3和DeepSeek-V3五种骨干模型中均有出现,表现出一定的跨模型稳健性。

这一结果使“交互结构与反馈机制比某个特定模型的特殊能力更重要”的解释更可信,但仍不能证明所有模型、提示词和网络条件下都会得到相同结果。

自我调节缓解内在矛盾

研究发现,智能体存在“自我不一致”:自报观点、生成理由和传递的信息可能互相矛盾,例如智能体声称保持中立,理由却明显偏向一侧。

在该实验设置下,自我调节策略将自我不一致率降低9.4%—52.2%,同时使左右阵营恢复平衡。 这为多智能体系统提供了一项可测试的工程干预:约束观点、理由与信息的一致性。不过,这一结果只说明特定设置下的干预有效,并不等于极化已经被彻底消除。

模拟结果仍需外部验证

研究对象仍是受提示词、初始化分布和交互流程约束的模拟智能体。模拟结果能否定量对应真实人群,仍需外部验证。

因此,“上千智能体自发站队”更适合作为多智能体系统机制研究与工程风险分析的起点,而不是“AI 已经形成政治阵营”的证据。真实网络中的身份经验、关系结构、平台机制和说服强度,都可能产生不同结果。

下一步从最小复现开始

论文与代码已经公开:Nature Communications论文和GitHub代码仓库。

git clone https://github.com/tsinghua-fib-lab/LLM_for_Polarization.git

建议先参照仓库复现100节点的机制实验,固定提示词、初始化参数和模型版本,逐轮记录五档立场分布、平均离中性距离、理由—立场一致性以及连接结构。随后比较基线设置与加入一致性约束后的变化;结果稳定后,再扩展到1000节点。这样才能区分极化究竟来自网络反馈、提示词设计,还是特定模型的行为倾向。

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容