职位描述
●负责PAI平台深度学习框架的技术研发，涵盖MoE模型的大规模训练架构、多模态训练体系、RLHF训练流程等方向，支撑通义实验室及阿里集团内多个业务场景的技术需求；参与基模型Pretrain、SFT等关键训练阶段的性能调优与系统改进；
●专注于提升各阶段模型训练任务的峰值吞吐能力，能系统化分析不同负载下的耗时瓶颈，并提出针对性优化方案，包括但不限于算子层面优化、通信机制改进、分布式策略调整等技术路径；
●主导超大规模训练系统的稳定性建设，通过多种技术手段增强训练过程的有效吞吐，打造高效的故障发现与自动恢复机制，保障大规模训练任务的连续性与流畅性；
●参与训练框架对多元硬件后端的适配与性能优化工作。

职位要求
●具备扎实的工程实现能力，良好的编码规范，熟练掌握Python/C++语言及常见设计模式，拥有复杂软件系统的设计、开发与调试经验；
●理解深度学习基本理论，熟悉Transformer结构，了解主流大语言模型和多模态模型的核心特性；
●精通PyTorch等常用深度学习框架，深入理解Megatron、DeepSpeed、JAX等训练框架的技术差异与实现细节；
●具有良好的沟通协作能力和团队意识，具备快速学习新知识的能力以及持续探索技术难题的韧性；
●掌握计算机体系结构基础，具备异构计算优化（GPGPU/x86/ARM等）、高性能网络通信优化、分布式训练策略调优等方面的实践经验；