统一多模态大模型后训练算法研究-阿里星/C-Star
阿里巴巴 · 北京 / 杭州 · 校招
AI 摘要智能生成
研究内容主要包括三个方面
职位描述
针对当前多模态大模型在后训练阶段面临的模态割裂、对齐效率低、奖励信号稀疏且场景泛化能力弱等关键挑战，本课题聚焦于构建统一的多模态大模型后训练算法体系。研究内容主要包括三个方面： 1、探索模型高效对齐的后训练算法，结合指令微调、偏好学习与知识蒸馏技术，提出低资源、高响应的对齐范式，实现模型行为与人类意图的高度契合。通过构建“奖励驱动—训练加速—对齐优化”三位一体的后训练框架，推动多模态大模型向更智能、更可靠、更可控的方向持续演进，为通用人工智能提供可复用、可扩展的算法基础设施； 2、开展超大规模强化学习（RL）训练架构优化，研究分布式训练中的梯度同步策略、样本效率提升方法与稳定收敛机制，支撑千亿级甚至万亿级参数模型在多模态环境下的高效策略优化； 3、设计面向通用场景的多模态统一奖励系统（Reward System），融合语言、视觉等多维信号，构建细粒度、可泛化的奖励函数，实现跨模态语义一致性与任务目标的联合建模。