About The Role

1、负责多个领域的大模型推理加速算法在云端和嵌入式场景研发，包括量化、PD分离、算子优化等技术，支撑讯飞主要的云端和嵌入式推理业务，提升用户体验，降低部署成本；
2、负责多个领域的大模型训练方案的设计和研发，基于超大训练集群，针对不同任务设计高效分布式系统，联合芯片底座优化训练效率，支撑讯飞星火大模型的长时稳定训练；
3、负责跟进业界最前沿技术方案（并行技术、量化技术、MoE算法、稳定性保障等），结合实际任务需求和硬件特性，探索业务落地场景；
4、参与新的大模型结构的设计、性能评估，从训练和推理的成本角度参与模型结构设计和优化。
1、重点院校硕士及以上学历，计算机、信号处理、自动化、应用数学等相关专业，具备一定的数理统计、模式识别、图像处理等理论知识；
2、推理方向掌握C/C++和数据结构，了解大语言模型，有CUDA/AscendC/BangC等使用经验优先；训练方向掌握Python/Pytorch，了解工程加速技术，掌握大模型并行训练技术优先；
3、对大模型训练和推理框架有使用和掌握者优先，如vLLM、SGLang、Megatron等；有AI芯片效率优化和使用经验者优先；
4、学习能力强，可快速学习掌握新的方案，对LLM的业界新技术和新算法有求知欲。
此岗位为科大讯飞集团统一招聘岗位，人员通过简历筛选、初试、复试、终审等环节后录用

This is an external listing. JobSpring does not represent or verify the employer. Report this listing

AI研究算法工程师-大模型训推框架优化方向(J13368)

About The Role