27届校招-大模型推理开发工程师-南京(J10774)

1.负责大模型推理框架在自研AI芯片平台的架构设计、开发与维护，构建高效低延迟推理流水线；
2.分析大模型推理特性，结合芯片架构设计软硬件协同优化方案；
3.与硬件设计、工具链编译器团队紧密协作，推进底层优化及平台整合；
4.制定测试方案，开展系统级调试与性能验证，保障框架在多场景下稳定高效运行；
5.跟踪大模型推理、编译器优化、硬件加速等领域前沿技术，持续迭代产品性能。
1.本科及以上学历，双一流院校优先，计算机科学、电子工程、通信工程、信息科学等相关专业，硕士、博士优先；
2.精通C/C++和Python编程，具备扎实的软件开发与系统调试能力；
3.熟悉深度学习及推理框架（如PyTorch、VLLM等）的工作原理与应用；
4.了解AI芯片架构及底层硬件原理，掌握并行计算、异构计算、分布式系统相关知识；
5.具备良好的问题分析能力和技术攻坚精神。
### 优先条件
1.有大语言模型（LLM）推理系统开发或优化经验；
2.熟悉CUDA/OpenCL等GPU编程及底层调优工具；
3.有相关学术论文发表或知名开源项目贡献经验。