AI研究院-中级Agent开发工程师
AI研究院 · · 校招
AI 摘要智能生成
大模型应用平台架构和应用方案的设计
职位描述
1. 大模型应用平台架构和应用方案的设计 - 参与大模型应用平台的整体架构设计与技术选型，构建高可用、可扩展的AI系统。 - 设计支持多模态、多任务的大模型服务框架，优化模型推理、部署及资源调度方案。 - 大模型应用和解决方案的需求分析，方案设计和研发。 2. 系统研发与功能开发 - 负责大模型应用平台核心模块开发，包括数据处理、模型训练/推理加速、分布式任务调度等。 - 开发模型服务化接口（如RESTful API）、Prompt工程工具链、模型监控与评估系统。 - 实现大模型与业务场景的深度集成，如对话系统、知识问答、代码生成等应用功能。 3. 性能优化与工程化 - 解决大模型训练与推理中的性能瓶颈，优化GPU资源利用率及计算效率。 - 研究模型压缩、量化、蒸馏等技术，降低部署成本并提升推理速度。 - 保障平台的高并发、低延迟与稳定性，设计容灾和自动化运维方案。