模型量化部署实习生-【自动驾驶】(J21566)

1. 参与Transformer、CV类模型的INT8/FP16量化、稀疏化、QAT、剪枝、蒸馏工作，解决量化精度损失问题，实现模型体积与推理速度的平衡优化；
2. 基于TensorRT、ONNX Runtime、TVM等主流推理框架，完成模型转换、算子开发与性能调优，支撑GPU/ARM等多硬件平台部署；
3. 参与推理引擎的性能 Profiling 工作，定位并解决推理链路中的瓶颈点，推动核心场景的吞吐率提升30%以上；
4. 协同算法、业务团队完成部署方案落地，输出标准化部署SOP，保障线上推理服务的稳定性与低延迟。
5. 计算机、电子信息、自动化等相关专业2027届硕士应届毕业生，扎实掌握C/C++/Python任意一门编程语言；
6. 熟悉深度学习基础理论，了解CNN、Transformer等常见模型结构；
7. 了解TensorRT、ONNX、TVM等至少一种推理框架的基本使用，有模型转换、算子开发相关实践经验优先；
8. 熟悉Linux开发环境，掌握基础的Shell脚本编写、性能调试工具使用方法，有CUDA编程基础者优先；
9. 对AI部署方向有强烈兴趣，主动关注模型量化、推理优化领域的前沿技术，具备良好的问题排查与跨团队沟通能力。

‌加分项‌

1. 参与过开源模型部署项目（BEV、OCC、VLA、端到端），在GitHub有相关量化、推理优化的代码提交记录；
2. 有NVIDIA Polygraphy等模型调试工具的使用经验，独立解决过模型转换中的精度对齐问题；
3. 参加过AI推理框架、模型部署相关的竞赛（如NVIDIA TensorRT优化大赛、全国大学生人工智能竞赛等）并获奖；
4. 熟悉ARM架构NEON指令集、端侧NPU硬件特性，有端侧模型部署相关实践经验。