模型arxiv cs.CL · 2w ago重要
Index SLM Technical Report
分类释义：新模型发布或升级
TL;DR
B站开源 Index-1.9B 系列小型语言模型，19亿非嵌入参数在2.8万亿中英文token上训练，Base模型标准基准测试平均64.92分，包含Base、Pure、Chat、Character四个变体并全部开源。
关键要点
- 01B站开源 Index-1.9B 系列小型语言模型。
- 0219亿非嵌入参数在2.8万亿中英文token上训练。
- 03Base模型标准基准测试平均64.92分。
- 04包含Base、Pure、Chat、Character四个变体并全部开源。
为什么值得关注
Norm-Head 输出层设计可稳定大学习率训练，Warmup-Stable-Decay 调度配合 decay 阶段数据质量提升策略，能显著优化小模型训练效率；Character 模型演示的 RAG + few-shot 角色扮演方案可直接复刻到对话产品中。
对你的工程实践意味着什么
LLM 实时生成MiniMax-M2.7缓存命中
| 角色 | 你应该做什么 |
|---|---|
| Tech Lead | 评估 Norm-Head 输出层设计在团队小模型训练中的可行性 |
| 应用工程师 | 参考 Character 模型的 RAG + few-shot 方案设计对话角色功能 |
| 运维 / 平台 | 暂无直接影响，了解即可 |
| 产品 / 业务 | 评估角色扮演对话产品在垂直场景的落地价值 |
同类资讯
本页 TL;DR 与「为什么」由 LLM 生成 · 模型：MiniMax-M2.7 / Claude Haiku 4.5