AI Infra实习生-推理方向(研究型)
AI Infra实习生 · 北京 / 广州 / 杭州 · 实习
AI 摘要智能生成
我们致力于解决大模型(LLM)推理领域的根本性挑战
职位描述
我们致力于解决大模型(LLM)推理领域的根本性挑战,现诚邀拥有深厚研究背景的博士或硕士研究生加入我们的团队。您将: 1. 探索大模型推理的核心瓶颈: 深入研究大模型推理中计算密集与内存受限等核心挑战的本质。提出并验证创新的并行策略、调度算法与系统优化方案,以突破跨设备集群(多机)和异构硬件环境下的推理效率极限,为下一代高效推理引擎奠定理论基础并实现突破性贡献。 2. 定义硬件感知的高性能编译与协同优化: 研究并设计面向多样化硬件体系结构(如GPU, NPU, ASIC等)的高性能算子编译优化框架。开创性地探索计算与通讯的深度融合与协同优化方法,构建理论模型并实现系统级性能的显著提升。 3. 创新下一代高效模型架构与推理范式: 前瞻性地结合未来硬件发展趋势,深入解构现有模型架构的计算特性。致力于研究并发明计算效率显著提升的新型模型结构(如稀疏激活、条件计算等)和颠覆性的推理范式(如动态计算路径、混合精度推理策略),引领高效模型设计的前沿方向。 4. 引领前沿模型压缩与加速算法的研究与实践: 系统性地研究模型压缩与加速领域的最新技术(如量化、结构化/非结构化剪枝、投机采样、稀疏化、知识蒸馏等)的内在机理与极限。勇于探索并实践具有理论保障和实用价值的创新算法,为模型的高效部署开辟新路径,并推动该领域的技术边界。
任职要求
- 职位要求
- 2026届及以后硕士及以上学历在读(博士优先),计算机、人工智能、数学、通信等相关专业;
- 拥有优秀数学基础和代码功底;基础优秀者无需大模型相关经验;
- 在体系结构、编译优化、分布式系统、机器学习系统或高效深度学习模型等一个或多个领域具备扎实的研究基础和突出的创新能力;
- 具备强烈的探索精神和独立研究能力,渴望解决极具挑战性的前沿问题;
- 优秀的分析能力、问题解决能力和严谨的科研素养。
- 加分项
- 具备在顶级会议/期刊(如 ASPLOS, OSDI, SOSP, MLSys, PLDI, CGO, MICRO, ISCA, NeurIPS, ICML, ICLR 等)发表论文的经验或潜力;
- 对主流深度学习框架(PyTorch, TensorFlow, SGlang、VLLM等)和硬件生态有深入理解。