GPU异构计算推理实习生
阿里巴巴 · 杭州 · 校招
AI 摘要智能生成
跟进支撑智能业务,整合团队资源,协调外部团队,推动业务上线
职位描述
1、负责AI硬件的云端GPU和XPU的推理引擎日常研发; 2、跟进支撑智能业务,整合团队资源,协调外部团队,推动业务上线; 3、探索计算优化和芯片异构前沿技术,比如:GPU,XPU等,跟进前沿加速技术:flash attention,paged attention,MTP。 职位要求
任职要求
- 计算机基础扎实:Linux操作系统,计算机网络,数据结果&算法,数据库等;
- 精通CUDA和C/C++/Python等编程语言,熟悉常用设计模式;
- 良好的表达、组织、沟通和协作能力;
- 对技术有激情,喜欢钻研,良好的学习能力。
- 加分项:
- 熟悉VLLM,SGLang,TensorRT等推理服务引擎;
- 熟悉CUDA,Triton等开发框架;
- 熟悉各种大规模高性能服务技术。