工具arxiv cs.CL · 3d ago需要关注
Choosing Where and How to Moderate: End-to-End Trade-offs in Filter Placement and Response Rewriting
分类释义：开发工具与基础设施
TL;DR
微软论文通过端到端指标（Usefulness 和 Harmful Exposure）对比了内容审核的三种放置策略，发现 Response only 模式下实用性最高，而 Input + response 能更低有害暴露；用 Response + rewrite 替代硬拦截可恢复大部分流量。
关键要点
- 01微软论文通过端到端指标（Usefulness 和 Harmful Exposure）对比了内容审核的三种放置策略。
- 02发现 Response only 模式下实用性最高。
- 03而 Input + response 能更低有害暴露。
- 04用 Response + rewrite 替代硬拦截可恢复大部分流量。
为什么值得关注
做 RAG 或 Agent 系统时，输入审核（过滤恶意查询）和输出审核（拦截有害回复）有不同的延迟-安全性权衡：若追求高可用选 response-only，若追求低有害内容选 input+response；probe routing 比 LLM routing 延迟更低，适合需要快速路由的生产环境。
对你的工程实践意味着什么
LLM 实时生成MiniMax-M2.7缓存命中
| 角色 | 你应该做什么 |
|---|---|
| Tech Lead | 评审现有内容审核架构，评估是否应从单一放置点迁移到组合策略（input+response） |
| 应用工程师 | 将硬拦截（block）替换为 Response + rewrite 方案，减少因误拦截导致的流量损失 |
| 运维 / 平台 | 优先采用 probe routing 而非 LLM routing 作为路由方案，降低端到端延迟 |
| 产品 / 业务 | 根据业务优先级选择策略：追求高可用选 response-only，追求低有害内容选 input+response |
同类资讯
arxiv cs.LG·2d ago
Beyond KV Reconstruction: Functional Reconstruction for MLA Draft Models in Speculative Decoding
arxiv cs.CL·2d ago
Prompt Chaining in Practice: A Case Study in Automated Scholarly Report Generation
arxiv cs.CL·2d ago
AI-assisted pre-review of open-source software submissions: an experience report from BOSC 2026
本页 TL;DR 与「为什么」由 LLM 生成 · 模型：MiniMax-M2.7 / Claude Haiku 4.5