论文arxiv cs.CL · 2mo ago重要
CroCo: Cross-Lingual Contrastive Preference Tuning on Self-Generations
分类释义：学术论文 / 技术报告
TL;DR
CroCo 证明在英语偏好数据上训练的 reward model 可以在无需语言特定标注的情况下，提升 14 种语言的下游任务表现，且 on-policy 数据是关键。
关键要点
- 01CroCo 证明在英语偏好数据上训练的 reward model 可以在无需语言特定标注的情况下。
- 02提升 14 种语言的下游任务表现。
- 03且 on-policy 数据是关键。
为什么值得关注
这意味着团队可以复用英语偏好数据集来优化多语言模型，而不需要为每种语言标注偏好，降低了 multilingual LLM 的微调成本。工程实践中，on-policy 采样（而非 off-policy）才能保持对比学习的收益，推荐 Aya-3B 或 EuroLLM-9B 等基座模型直接尝试。
对你的工程实践意味着什么
LLM 实时生成MiniMax-M2.7缓存命中
| 角色 | 你应该做什么 |
|---|---|
| Tech Lead | 评估团队当前 multilingual LLM 需求，优先在 Aya-3B 或 EuroLLM-9B 上试点此方法 |
| 应用工程师 | 检查目标应用涉及的语言范围，若包含 14 种语言之一可尝试换用 CroCo 优化过的模型 |
| 运维 / 平台 | 评估 on-policy 采样的计算资源需求，计划支持 RLHF pipeline 的基础设施 |
| 产品 / 业务 | 暂无直接影响，了解即可 |
同类资讯
本页 TL;DR 与「为什么」由 LLM 生成 · 模型：MiniMax-M2.7 / Claude Haiku 4.5