大模型产品实经理(J107028)
百度 · 北京市 · 实习
AI 摘要智能生成
推动模型迭代节奏
职位描述
-推动模型迭代节奏:制定 Coding 大模型版本的能力目标与迭代计划,组织 badcase 收集、能力诊断和需求排序,推动算法、数据、工程团队形成改进闭环并验证效果 -构建复杂任务审计规则:针对多文件修改、跨仓库重构、长链路调试、工具调用、测试修复等复杂编码任务,设计可判定的审计规则,明确正确性、完整性、可运行性、安全性与规范性的判定口径,界定“通过、部分通过、失败”的边界 -搭建自动化评估体系:建设评测集与评测流水线,结合单元测试执行、编译校验、行为一致性比对、静态检查与人工抽检;合理使用规则校验与 LLM-as-judge,控制评测成本、噪声与误判 -制定测试标准:建立任务难度分级、场景分类、评分 rubric、通过阈值与验收口径,保证不同模型版本、不同任务集之间的结果可比 -跨团队协同:与算法、数据标注、Infra、业务团队协作,把评测结论转化为模型改进项、数据策略与产品化建议
任职要求
- 本科及以上学历,有代码基础,对编程有了解,软件工程和计算机专业背景的优先
- 理解 Coding Agent 的运行机制:上下文组织、工具调用、多轮修复、沙箱执行、失败重试,能判断问题出在模型、工具还是评测设计
- 学习能力和抗压能力强
- 数据能力扎实,能够完成指标分析、分布分析与归因