模型部署与推理优化实习生(算子评估/性能 Benchmark方向)

AI 摘要智能生成

参与深度学习模型的部署验证

职位描述

参与深度学习模型的部署验证，包括 PyTorch、ONNX、TensorRT、ONNX Runtime 等推理链路。 负责模型和常见算子的性能 Benchmark，统计 latency、FPS、显存、CPU/GPU 占用等指标。 分析模型转换和推理过程中出现的算子不支持、精度不一致、性能异常等问题。 编写自动化测试脚本，支持不同模型、输入尺寸、batch size、精度模式下的性能对比。 整理算子兼容性、性能测试结果和 Benchmark 报告，支持模型部署和优化决策。

任职要求

• 硕士及以上在读，计算机、人工智能、机器人、自动化等相关专业优先。
• 熟悉 Python，了解 PyTorch 基本使用。
• 熟悉 Linux 环境，具备基本脚本开发能力。
• 了解 ONNX、TensorRT、ONNX Runtime 等模型部署工具中的至少一种。
• 理解 latency、FPS、显存占用、吞吐量等常见性能指标。
• 做事细致，具备良好的实验记录和文档整理能力，短期实习3个月左右。