27届-端侧大模型部署优化工程师

AI 摘要智能生成

负责端侧(手机/驾舱/智能硬件)大模型的部署

职位描述

1. 负责端侧(手机/驾舱/智能硬件)大模型的部署，包括但不限于框架开发，算子优化，硬件适配； 2. 负责端侧大模型的前沿优化技术调研与落地； 3. 参与模型、系统与硬件的协同优化与联合设计。 1. 预计毕业时间介于2026年9月至2027年8月的国内外应届本科及以上学历毕业生，计算机/软件工程/数学/人工智能等相关专业； 2. 熟悉Linux，熟悉C/C++/Python，具有良好的编程风格； 3. 熟悉主流的 LLM，VLM 模型架构以及常用的 LLM 优化技术，例如 Continous-Batching, Speculative-Decoding, Quantization 等； 4. 熟悉至少一款主流的推理引擎框架，如 llama.cpp、MNN、vLLM、TensorRT； 5. 熟悉 OpenCL、CUDA 等并行编程； 6. 有异构系统开发经验，熟悉 QualComm NPU 开发流程； 7. 有系统顶会(OSDI、NSDI、MLSys)一作者优先。

任职要求

• Python
• C++
• Linux