端侧多模态算法岗

AI 摘要智能生成

负责多模态大模型在多平台包括但不限于：高通平台

职位描述

1、 参与大模型在端侧设备的性能优化与模型部署落地； 2、 深入研究生成式多模态大模型的量化、算子优化、内核融合、图优化等关键技术，显著降低模型尺寸与推理延迟； 3、 深度挖掘并利用端侧AI硬件的算力潜力，包括但不限于：高通Hexagon DSP/NPU、MTK平台、CUDA平台； 4、 构建和维护端侧模型自动化优化与部署 pipeline，包括模型转换、量化、编译、测试和性能分析； 5、负责多模态大模型在多平台包括但不限于：高通平台、MTK平台、NV平台，量化、移植、推理加速、SDK封装工作。

任职要求

• 博士及以上学历，计算机数学理工类专业优先，有端侧AI开发实习经验优先；
• 熟悉C/C++或Python编程语言；熟悉并掌握主流模型压缩技术，如量化（GPTQ/AWQ/SmoothQuant/SpinQuant）、剪枝、蒸馏及NAS；
• 熟悉MLLM/VLM/LLM推理框架（如vLLM、TensorRT-LLM、llama、cpp）及优化加速技术（如Speculative-Decoding、Flashattention）；
• 具备MLLM/VLM/LLM推理优化和加速技术的实践经验；
• 拥有深入研究精神、创新能力及持续学习意愿。