阿里巴巴日常实习生-智能体安全评测

AI 摘要智能生成

设计并构建前沿风险评测任务与数据集

职位描述

1. 参与智能体前沿安全风险研究，重点关注失控风险（Loss of Control）方向，跟踪学术与行业动态，协助建立风险分类框架与评测方法论 2. 设计并构建前沿风险评测任务与数据集，搭建智能体评测环境，开展控制实验并分析评测结果 3. 辅助参与智能体安全评测的其他维度工作，包括提示注入、越狱攻击、权限滥用等方向的评测集构建与方案迭代 4. 协同团队完成安全评测相关的日常研究与技术支撑工作

任职要求

• 硕士及以上在读，人工智能、计算机科学、网络安全等相关专业，实习时长 ≥ 3 个月，每周 ≥ 3 天
• 对大语言模型与智能体技术有扎实理解，熟悉 ReAct、Tool Use 等主流架构；了解 PropensityBench、AgentBench 等评测基准者优先
• 对 AI Safety / AI Alignment 方向有兴趣或积累，了解 Loss of Control、Reward Hacking、Deceptive Alignment 等前沿议题者优先
• 编程基础扎实，熟练使用 Python，熟悉 PyTorch、LangChain 等框架；有实验设计与数据分析经验
• 逻辑清晰，信息检索能力强，能独立完成文献调研、实验设计、数据处理与报告撰写
• 学习能力强，对智能体安全有深入兴趣，具备良好的沟通与团队协作意识