核心职责
1. 深度学习平台架构设计:主导深度学习训练/推理平台的架构演进,覆盖数据流水线、模型开发、训练调度、模型仓库、在线服务等全链路
2. 分布式训练方案设计:针对百亿/千亿参数模型,设计数据并行、模型并行(张量/流水线/序列并行)、ZeRO优化策略,保障线性扩展比与训练稳定性
3. 模型优化与加速:指导模型结构优化(注意力机制选择、激活函数、归一化等)、混合精度训练、梯度累积、重计算等技巧,提升训练效率
4. 推理系统设计:协同推理加速团队,设计高性能推理服务架构(vLLM / TensorRT-LLM / Triton),满足低延迟高吞吐的业务需求
5. 技术规范与*佳实践:制定团队编码规范、模型开发流程、实验管理标准(MLflow / W&B)、模型版本管理
6. 前沿技术预研与落地:跟踪MLSys、NeurIPS、ICML等顶会前沿,评估FlashAttention、Ring Attention、MoE训练、FP8训练等新技术可行性
7. 团队建设与技术指导:担任技术导师,指导初中级算法/工程同学成长,参与技术评审
任职要求
1. 学历与经验:硕士及以上学历(博士优先),计算机/AI/数学/EE等相关专业;5年以上深度学习研发经验,其中至少2年担任架构师或技术负责人角色
2. 模型能力:深入理解CNN/RNN/Transformer/GNN等主流网络结构,熟悉LLM(GPT/LLaMA/Qwen)、多模态(CLIP/Stable Diffusion)等前沿模型原理
3. 分布式训练:精通PyTorch分布式(DDP/FSDP/DeepSpeed/Megatron-LM),有千卡级以上分布式训练实战经验,能定位通信/计算/IO瓶颈
4. 系统工程:熟悉CUDA编程基础、GPU体系结构;掌握Docker/K8s、MLOps工具链;有大规模训练集群调度经验(Slurm/Kubernetes)
5. 编程能力:精通Python,熟悉C++;代码规范意识强,有大型项目架构设计经验
软素质:优秀的技术判断力与决策力,能平衡技术先进性与工程稳定性;出色的跨团队协作与沟通能力