AI 智能体安全专家 / 工程师

主要职责

• 研究大模型与智能体系统的典型风险，包括提示注入、越狱、工具滥用、权限扩散、目标漂移和多智能体协同失效。
• 设计智能体行为安全评测、红队测试、攻击样本库和风险分级方法，沉淀可复用测试流程。
• 将模型行为风险抽象为安全规则、策略包、检测逻辑和防护方案，并与产品工程团队协同落地。
• 对接模型厂商、平台厂商和生态伙伴，推动安全标准、评测能力和防护机制嵌入模型生态。