LLM社会模拟研究需先通过鲁棒性审计方可提出科学论断

arXiv 近日发布一篇编号 2605.18890 的论文，直指当前 AI 研究的一个痛点：LLM社会模拟研究需先通过鲁棒性审计方可提出科学论断，否则结论可能只是“看起来合理”的幻觉。这篇论文来自学术界，核心观点很明确——科学家们从大模型社会模拟中得出的论断，其强度绝不能超过支撑这些论断的鲁棒性审计。

生成式代理真的能模拟社会吗？论文承认，这类代理确实给基于代理的建模带来了新表达能力，能模拟合作、极化、规范形成等集体社会过程。这听起来挺酷，是吧？但问题在于，它们也引入了额外的复杂性——代理规格、记忆表征、交互协议、环境设计，这些架构选择每一个都可能让结果跑偏。

其实，研究人员最容易忽略的恰恰是“小扰动”。论文警告说，那些对研究者而言看似微不足道的参数变化，完全可能级联成宏观层面的系统性偏差。凭什么我们敢说模拟出的“合作行为”就是真实社会的映射？万一只是某个记忆模块的 bug 在放大呢？

这就像造了一台精密仪器，但没人校准过。咱们都知道，没有鲁棒性审计的支撑，LLM社会模拟研究得出的科学论断就好比沙上建塔。论文直接用“no stronger than”这个表述，语气相当严厉——你的论断再漂亮，也逃不过审计的检验。

那怎么办？论文给出的路径很清楚：先做鲁棒性审计，再谈科学论断。这确实算是一个方法论上的提醒，尤其对那些急于用大模型模拟社会现象发论文的团队。毕竟，如果扰动能把结果从“合作”变成“对立”，那咱们凭什么信它？