Ben (Jiangan) Yuan

LLM SYSTEMS · DISTILLATION · HIGH-PERFORMANCE COMPUTING

让大模型训练更高效、更可靠。

我目前在百度搜索策略部从事大语言模型预训练与中训练,关注知识蒸馏、训练数据闭环、search agent mid-training及大模型可解释性问题。

01

关于我

2025 年 8 月至今,我在百度参与 100B 级 MoE 搜索大模型的预训练与中训练,主要负责蒸馏目标、数学与代码数据策略、评测归因和搜索 Agent 数据合成。

我于cuhksz获得ds master学位,本科毕业于华南理工大学。此前曾在字节跳动飞书搜索团队从事企业知识问答模型的 SFT 训练与优化。

02

研究方向

01

LLM Training

大语言模型预训练、后训练和稳定高效的训练方法。

02

Knowledge Distillation

面向大模型的知识迁移、分布对齐和高效蒸馏目标。

03

Distributed Systems

分布式训练、并行策略,以及大规模训练系统性能优化。

03

代表成果

LLM TRAINING

大模型蒸馏目标设计

分析 Forward KL 与 NTP 的领域权衡,并以动态监督策略完成规模化验证

PREPRINT · 2026

Let the Data Decide

主导研究思路、实验设计、实现与评估,系统研究持续预训练中的监督信号选择、能力权衡与自适应目标路由。

DATA & EVALUATION

数学与代码数据质量闭环

构建合成、过滤、沙箱校验与评测归因,提升pass@k、薄弱领域以及容易看见的错误

04

最新动态

  • 预印本 Let the Data Decide 发布于 arXiv。
  • 加入百度搜索策略部,从事大模型预训练与中训练。
  • 获cuhksz data science master
  • 获华南理工大学学士学位

05

近期文章

06

联系与合作

欢迎围绕大模型训练、知识蒸馏、预训练数据、大模型可解释性进行交流。

学术讨论、工程实践或潜在合作,都可以通过邮件与我联系。