About The Role

1、负责AI模型训练及推理性能分析、评测与优化，围绕时延、吞吐量、内存/显存占用、功耗及资源利用率等指标，制定性能优化方案并推动落地；
2、负责AI模型在GPU、NPU、CPU及嵌入式平台上的性能调优，开展算子优化、模型压缩、量化、编译优化、并行策略优化及软硬件协同优化；
3、搭建和维护AI性能测试、Benchmark及自动化分析工具，定位模型、框架、算子、通信、内存和I/O等环节的性能瓶颈，输出性能分析报告；
4、协同算法、平台、驱动及硬件团队，完成AI模型部署、性能验收和问题闭环，持续提升产品性能、稳定性及资源使用效率；
5、跟踪AI编译器、推理框架、硬件加速及大模型性能优化等前沿技术，沉淀性能优化方法、工具和最佳实践。
1、熟练掌握Python、C/C++等编程语言，具备良好的代码分析、调试和性能优化能力，熟悉Linux开发环境及Shell脚本；
2、熟悉PyTorch、TensorFlow等深度学习框架，了解ONNX、TensorRT、ONNXRuntime、MindSpore等模型转换与推理部署工具中的一种或多种；
3、熟悉CNN、Transformer及大语言模型等常见网络结构，了解模型量化、剪枝、蒸馏、算子融合、图优化、并行计算等性能优化方法；
4、熟悉CPU、GPU、NPU等硬件架构及内存层次、缓存、并行计算、数据传输等基本原理；有CUDA、算子开发或AI编译器优化经验者优先；
5、能够使用Profiler、NsightSystems/Compute、Perf等性能分析工具，具备定位计算、通信、内存、I/O及系统调度瓶颈的能力；
6、具备扎实的数据分析和实验设计能力，能够建立科学的性能指标体系，完成性能对比、回归测试及优化效果验证；
7、具备较强的问题分析、系统性思考和工程落地能力，对性能指标敏感，能够深入软硬件细节并推动复杂问题闭环；
8、具备良好的团队协作和沟通能力，能够与算法、软件、驱动、硬件及产品等团队高效协同。

This is an external listing. JobSpring does not represent or verify the employer. Report this listing

AI PE工程师-总部职能-深圳

About The Role