AI研究院-算法研究员-内生安全

AI 摘要智能生成

面向智能体（Agent）与复杂推理场景

职位描述

1、负责大模型本体安全方向的关键技术研究与能力建设，涵盖模型安全对齐与价值约束机制设计、幻觉与不可靠生成问题的建模与治理、模型鲁棒性增强与对抗攻击防护以及探索模型层面的安全增强方法等； 2、面向智能体（Agent）与复杂推理场景，研究多轮交互、工具调用等长链路过程中的安全风险，设计可扩展的安全控制与防护机制； 3、跟踪主流开源模型安全问题，开展安全评估与加固技术研究，推动工具链研发与开源； 4、针对具体业务问题能够结合算法特点，完成风险诊断与解决方案设计。

任职要求

• 算法