About The Role

欢迎加入摩尔线程！我们深耕大模型推理场景与底层算子优化，依托自研 GPU 完成各类 AI 模型适配加速，落地高性能推理解决方案，助力 AI 算力产品商业化落地与开发者生态建设。
岗位职责：
1、负责各类大模型在自研 GPU 上的推理适配、性能调优与业务部署，解决高并发、长文本、多轮对话等场景的性能与稳定性瓶颈。
2、聚焦大模型推理全链路优化，落地分布式推理、量化、KV 缓存等核心策略，持续提升推理吞吐、降低推理时延。
3、跟进 LLM、VLM 等前沿模型技术，完成新模型适配加速与推理能力迭代升级。
4、结合自研 GPU 架构特性，基于并行编程工具完成高性能推理算子开发与极致调优。
5、对接业务与研发团队，输出可落地的推理解决方案，沉淀技术内容，共建开发者生态。
任职资格：
1、计算机、人工智能、电子信息等相关专业，本科及以上学历。
2、熟悉 C++/Python，熟练使用 Linux 开发环境，具备扎实编程基础。
3、了解 GPU 并行计算原理与 Transformer 大模型基础架构。
4、具备大模型推理、模型部署或性能优化相关认知与学习热情。
5、具备良好的学习分析能力、责任心与团队协作意识。

This is an external listing. JobSpring does not represent or verify the employer. Report this listing

大模型推理优化工程师(J10995)