About The Role

1、负责大模型本体安全方向的关键技术研究与能力建设，涵盖模型安全对齐与价值约束机制设计、幻觉与不可靠生成问题的建模与治理、模型鲁棒性增强与对抗攻击防护以及探索模型层面的安全增强方法等；
2、面向智能体（Agent）与复杂推理场景，研究多轮交互、工具调用等长链路过程中的安全风险，设计可扩展的安全控制与防护机制；
3、跟踪主流开源模型安全问题，开展安全评估与加固技术研究，推动工具链研发与开源；
4、针对具体业务问题能够结合算法特点，完成风险诊断与解决方案设计。
1、硕士及以上学历，人工智能、计算机、信号处理、自动化、应用数学等相关专业，具备一定的数理统计、模式识别、机器学习等相关背景；
2、熟悉AI模型训练与推理原理，理解模型鲁棒性、安全性问题，有对抗攻击、幻觉检测、Prompt注入防护等相关经验者优先；
3、有开源模型评估/强化经验或参与Red Team测试、安全基准设计、治理工具开发经验者优先；
4、英语六级及以上，具备中英文学术论文的调研能力，有从事研究型项目的经历；
5、有Pytorch、Tensorflow等深度学习框架实践经验，有论文发表、代码开源、技术博客或竞赛经验者优先。

This is an external listing. JobSpring does not represent or verify the employer. Report this listing

AI研究院-算法研究员-内生安全