- 2024-06 ~ 2024-12
- XX(大模型对齐团队,员工万人+)
- 大模型对齐算法实习生
在对齐团队,参与通用对话模型的偏好对齐(RLHF/DPO)迭代
负责偏好数据的构造与质量控制:设计了多模型多温度采样 + 规则过滤 + 人工/模型双重打分的流程,产出约 8 万对偏好数据,把标注不一致率明显压下来
训练并迭代了一个奖励模型(RM),把 RM 在偏好判别上的准确率做到内部可用水平,并用它做了拒绝采样微调
主导了一轮 DPO 迭代,模型在内部对话质量评测上相对基线的胜率从约 48% 提到 61%,同时通过约束把复读和啰嗦的问题压下来
- 2023-07 ~ 2023-11
- YY研究院(AI 研究机构)
- 研究实习生
参与指令微调(SFT)的数据研究,做了指令多样性和难度配比的消融
负责评测集搭建,把指令跟随和安全的评测流程做成了可复用脚本