MaaS 的高效资源调度与系统设计-阿里星

AI 摘要智能生成

设计并实现面向 LLM 推理场景的关键系统组件

职位描述

1、参与 MaaS（Model as a Service）推理平台核心系统的设计与建设，面向大规模模型服务场景，打造高性能、低延迟、高吞吐的推理基础设施； 2、参与 GPU / CPU / 网络等异构算力资源的高效调度系统设计，构建面向大模型推理任务的资源编排与调度能力，实现资源利用率与服务质量的最优平衡； 3、设计并实现面向 LLM 推理场景的关键系统组件，包括请求调度、批处理优化、推理并行策略、缓存与上下文管理等核心机制； 4、参与构建大规模模型服务平台的系统架构，包括模型部署、服务治理、流量调度、容量管理与自动扩缩容等核心能力； 5、通过系统架构优化与工程创新，持续提升推理系统在 性能、稳定性与成本效率 方面的表现，支撑大规模 AI 应用的稳定运行。

任职要求

• 计算机科学相关专业研究生及以上学历，具备扎实的计算机基础知识；
• 具备良好的系统设计与工程能力，熟悉至少一种主流编程语言（如 C++ / Go / Java / Python / Rust），能够完成复杂系统模块的设计与实现；
• 熟悉 Linux 系统开发环境，具备良好的工程实践能力，能够进行系统调优、性能分析与问题定位；
• 对分布式系统、资源调度系统或云原生平台有一定理解，例如 Kubernetes、容器调度、任务调度或服务编排机制；
• 对 AI 基础设施或大模型推理系统有强烈兴趣，具备良好的学习能力与技术探索精神；
• 有系统领域顶会论文、ACM/ICPC国际奖项、主流开源项目活跃贡献者是加分项。