About The Role

1、负责多个领域的大模型推理加速算法在云端和嵌入式场景的研发落地，包括量化、PD 分离、算子优化、显存优化、推理调度等技术，支撑讯飞主要的云端和嵌入式推理业务，提升用户体验，降低部署成本。
2、负责多个领域的大模型训练方案的工程设计和研发，基于超大规模训练集群，针对不同任务类型构建统一高效的分布式训练系统，联合芯片底座优化训练效率，支撑讯飞各业务大模型的长时稳定训练。
3、负责跟进业界前沿的大模型训练与推理优化技术，包括分布式训推系统优化、模型压缩与量化、多芯片算子优化、系统稳定性保障等方向，结合实际业务需求和硬件特性，推动技术方案落地。
4、负责大模型训练与推理基础设施建设，完善性能分析、自动化调优、稳定性监控、故障定位等工具链，提升大模型训练和推理系统的工程效率与稳定性。
基本要求
1、2027届计算机、人工智能、电子信息、数学等相关专业硕士及以上学历，具备扎实的计算机基础和良好的数学功底。
2、熟练掌握 C/C++/Python 中至少一门编程语言，具备良好的数据结构、算法基础和工程开发能力。
3、熟悉大模型训练与推理流程，理解 Transformer、Attention、KV Cache、分布式训练等核心技术。
4、具备较强的问题分析和工程实践能力，能够针对性能、稳定性问题进行定位和优化。
5、对AI Infra训推系统优化等方向具有浓厚兴趣，持续关注行业前沿技术，具备良好的学习和协作能力。
加分项
1、熟悉 CUDA、Ascend C、Triton、TileLang 等高性能算子开发与优化技术。
2、具备大模型训练、微调、推理部署或推理服务优化实践经验。
3、熟悉 Megatron、MindSpeed、vLLM、SGLang 等主流大模型训练与推理框架，并有优化或贡献经验。
4、熟悉 Code Agent、AI 辅助编程工具，并能够应用于研发效率提升。

This is an external listing. JobSpring does not represent or verify the employer. Report this listing

AI研究算法工程师-大模型训推框架优化方向(J12669)

About The Role