论文arxiv cs.CL · 2w ago重要
What Models Express, Suppress, and Resist: Auditing Open-Weight LLMs with Persona Vectors
分类释义：学术论文 / 技术报告
TL;DR
研究者提出用 persona vectors（激活空间中的行为方向向量）系统性探测模型行为，发现模型行为分三类：自然表达、隐含可引导、不可提取；引导在模型默认排除的特质（如夸张、幻觉、谄媚）上效果最好，且微调变体的向量可迁移提取原本无法提取的行为。
关键要点
- 01研究者提出用 persona vectors（激活空间中的行为方向向量）系统性探测模型行为。
- 02发现模型行为分三类：自然表达、隐含可引导、不可提取。
- 03引导在模型默认排除的特质（如夸张、幻觉、谄媚）上效果最好。
- 04且微调变体的向量可迁移提取原本无法提取的行为。
为什么值得关注
这为 AI 安全审计提供了一套可量化的行为探测框架：工程团队可用 persona vectors 检测模型是否「隐瞒」了某些危险行为，而非只依赖 prompt 观察表面输出；产品层面，可借鉴「从微调变体迁移向量」的思路，用轻量级 adapter 实现多 persona 切换，而无需重新训练主模型。
对你的工程实践意味着什么
LLM 实时生成MiniMax-M2.7缓存命中
| 角色 | 你应该做什么 |
|---|---|
| Tech Lead | 评估是否将 persona vectors 探测纳入模型上线前的安全审计流程 |
| 应用工程师 | 了解激活空间方向向量引导模型行为的实现方式，阅读相关开源实现代码 |
| 运维 / 平台 | 暂无直接影响，了解即可 |
| 产品 / 业务 | 评估多 persona 切换的场景需求，考虑用轻量 adapter 而非重训模型实现差异化 |
同类资讯
本页 TL;DR 与「为什么」由 LLM 生成 · 模型：MiniMax-M2.7 / Claude Haiku 4.5