Let the Data Decide: Supervision Analysis, Capability Trade-offs, and Adaptive Objective Routing in Continued Pre-Training via Off-Policy Distillation
Published in arXiv, 2026
研究简介
这项工作分析持续预训练中不同监督信号带来的能力收益与权衡，并探索基于数据和 Teacher 优势区域进行自适应目标路由的方法。
个人贡献
主导研究思路、实验设计、实现与评估。