论文arxiv cs.AI · 2mo ago重要
Why LLMs Fail at Causal Discovery and How Interventional Agents Escape
分类释义：学术论文 / 技术报告
TL;DR
研究证明 LLMs 通过监督微调、DPO 和上下文学习都无法可靠进行因果发现，因为这些方法产生的预测器无法区分生成相似观测数据的不同因果图。提出 A-CBO 架构，用冻结 LLM 作为干预预言机，配合外部贝叶斯搜索环，在对数轮次内收敛。
关键要点
- 01研究证明 LLMs 通过监督微调、DPO 和上下文学习都无法可靠进行因果发现。
- 02因为这些方法产生的预测器无法区分生成相似观测数据的不同因果图。
- 03提出 A-CBO 架构。
- 04用冻结 LLM 作为干预预言机。
为什么值得关注
如果你的产品需要因果推理（如归因分析、干预效果预估），不要迷信微调能达到因果能力。更好的架构是用 LLM 作为受限的查询接口，外层用传统贝叶斯优化做结构搜索——这比任何端到端训练都更高效且有理论保证。
对你的工程实践意味着什么
LLM 实时生成MiniMax-M2.7缓存命中
| 角色 | 你应该做什么 |
|---|---|
| Tech Lead | 叫停任何'微调LLM做因果推理'的技术路线评估，该方向有理论上限 |
| 应用工程师 | 实现归因/因果推断功能时，选用LLM+贝叶斯搜索的混合架构而非纯端到端 |
| 运维 / 平台 | 暂无直接影响，了解即可 |
| 产品 / 业务 | 对LLM的因果能力预期回归理性，明确其适合做查询接口而非真正的因果推理引擎 |
同类资讯
本页 TL;DR 与「为什么」由 LLM 生成 · 模型：MiniMax-M2.7 / Claude Haiku 4.5