← Back to job listings
MT
AI大模型需求与场景建模专家(J11032)
Moore Threads · 北京市
About The Role
- 作为仿真系统的"需求入口",负责将前沿AI业务场景(LLM推理、文生视频、多模态服务等)转化为可量化、可仿真的技术指标体系,是连接业务需求与底层仿真的关键桥梁。
- 核心职责
- 场景解构与指标定义
- 深入理解各类主流AI模型(LLM、Diffusion、多模态大模型等)的推理范式、服务调度机制及部署架构。
- 针对典型业务场景(如高并发LLM推理、长视频生成、实时交互等),定义关键性能指标(SLO)、算力需求、内存带宽需求、通信模式等核心参数。
- 建立场景分级体系,区分通用场景与极端场景,为仿真覆盖范围提供输入。
- 模型拆解与算子映射
- 将上层AI模型拆解为具体的算子需求图谱(计算类型、数据依赖、调用频次、并行模式等)。
- 定义算子间的数据流特征(如KV Cache规模、激活值大小、权重加载模式),为算子性能分析提供精确的输入规格。
- 建模能力产品化
- 将场景建模经验沉淀为可复用的模板、配置库和自动化工具,降低新场景的建模门槛。
- 持续跟踪前沿模型演进(如MoE架构、长上下文推理等),快速更新建模方法论。
- 硕士及以上学历,计算机、人工智能、数学等相关专业,985/双一流院校优先。
- 3-5年AI系统相关经验,来自头部互联网公司或AI独角兽,有推理框架(如vLLM、TensorRT-LLM、SGLang等)开发或优化经验。
- 深刻理解PD分离(Prefill-Decode Disaggregation)、Continuous Batching、Speculative Decoding等推理优化技术。
- 具备将复杂业务需求抽象为技术模型的能力,有从0到1构建评估体系的经验。
- 加分项
- 有大规模AI服务(千万级DAU)的SLO定义与保障经验。
- 熟悉至少一种主流模型架构的完整推理链路(如Llama、GPT、Stable Diffusion、Sora类模型)。
- 有性能建模或容量规划相关背景。
Similar roles you might like
See all →M
Head of AT - PAMO Jiangsu Branch
Manulife
Salary not disclosedPosted 1 day ago
C
Welder III
cat
Salary not disclosedPosted 1 day ago
0B
Clinical Trial Physician (CTP)
0406 BMS (China) Investment Co
Salary not disclosedPosted 1 day ago
CA
Electrician
CN20 AP&C (Shanghai) Systems Co
Salary not disclosedPosted 1 day ago
CA
Snr Process Tech
CN1W Air Products (Shanghai) Electronics Gases Co., Ltd
Salary not disclosedPosted 1 day ago
CA
PG operator level 3
CN73 AP&C (Dongguan) Gases Co.
Salary not disclosedPosted 1 day ago
CA
PG operator level 2
CN73 AP&C (Dongguan) Gases Co.
Salary not disclosedPosted 1 day ago
5U
VP1, Internal Auditor
5102 UOB China Ltd
Salary not disclosedPosted 1 day ago
This is an external listing. JobSpring does not represent or verify the employer. Report this listing
