大模型攻击和防御技术研究-阿里星

AI 摘要智能生成

负责研究大模型攻击机理，覆盖提示注入、模型越狱

职位描述

1. 负责研究大模型攻击机理，覆盖提示注入、模型越狱、知识蒸馏、思维链（CoT）窃取、数据投毒等方向，建设系统化的攻击方法论、攻击库与攻击工具链； 2. 针对各类攻击机理，设计并落地模型侧（对齐加固、鲁棒性训练）与应用侧（输入输出防护、运行时监测）防御方案，重点攻关反蒸馏与模型资产保护（输出扰动、水印、蜜罐投毒等）； 3. 构建大模型攻防评测集（攻击集 + 防御效果集），定义并基准化攻击成功率、防御召回率、蒸馏还原度等核心指标，驱动攻防能力可度量、可迭代； 4. 沉淀攻防技术文档与最佳实践，跟踪学术前沿（顶会论文、开源攻击/防御项目），参与技术分享与标准共建。

任职要求

• 计算机科学、人工智能、信息安全或相关专业硕士及以上学历；
• 熟悉 LLM 基本原理（Transformer、预训练/对齐、RLHF/DPO 等），理解模型能力与安全对齐的内在关系；
• 扎实的 Python 编程能力，熟悉至少一种主流大模型框架（HuggingFace / vLLM / LangChain 等）；
• 有安全攻防实战经验（渗透测试、漏洞挖掘、红蓝对抗之一即可）；
• 良好的英文文献阅读能力，能独立跟踪并复现前沿研究。