大模型应用研发工程师
1.5-3万元/月
更新 2025-12-14 14:17:29
浏览 327
职位详情
大模型算法
经验不限
岗位职责
1.大模型应用方向的二次开发与参数优化:依托LangChain/LlamaIndex/Dify/Haystack/RAGFlow/Flowise等开源平台进行定制化开发及深度调参,实现专属文档解析模块、向量索引策略配置、Agent工具集成、Prompt架构设计、结果重排机制、权限控制扩展等核心功能。
2.大模型推理引擎的部署与性能优化:结合pytorch、vllm、sglang等开源框架,根据客户实际硬件环境调整推理参数,提升推理效率与资源利用率。
3.私有化场景下的端到端部署与交付:基于K8S完成大模型应用的定制化封装,并实现从环境准备到上线运行的全流程客户侧落地。
4.系统持续迭代与运维保障:承担系统上线后的版本更新、问题排查与技术支持工作,输出运维文档、故障处理流程、培训资料等配套内容。
任职要求
1.计算机类相关专业本科及以上学历,具备2年以上AI工程实施或私有化项目交付经验。
2.至少熟练掌握以下开源框架中的两项,并拥有实际部署与二次开发经历:LangChain/LlamaIndex/Dify/Haystack/RAGFlow/FastGPT/Flowise
3.熟悉至少一种主流大模型推理方案,如hf原生/vllm/sglang,理解其底层推理并行技术原理。
4.精通Python&PyTorch,具备扎实的工程实现能力;可使用C++/CUDA或Golang开发高性能计算组件或辅助服务模块。
5.掌握向量数据库(Milvus、Weaviate、PGVector、OpenSearch-k-NN)的高可用架构部署、性能调优及数据迁移方法;
6.具备强烈的技术探索意愿,良好的表达能力和协作意识,能积极应对变化并快速融入新环境;拥有出色的逻辑分析能力、沟通协调能力、抗压能力与情绪管理能力。
【base城市:北京or长春】
1.大模型应用方向的二次开发与参数优化:依托LangChain/LlamaIndex/Dify/Haystack/RAGFlow/Flowise等开源平台进行定制化开发及深度调参,实现专属文档解析模块、向量索引策略配置、Agent工具集成、Prompt架构设计、结果重排机制、权限控制扩展等核心功能。
2.大模型推理引擎的部署与性能优化:结合pytorch、vllm、sglang等开源框架,根据客户实际硬件环境调整推理参数,提升推理效率与资源利用率。
3.私有化场景下的端到端部署与交付:基于K8S完成大模型应用的定制化封装,并实现从环境准备到上线运行的全流程客户侧落地。
4.系统持续迭代与运维保障:承担系统上线后的版本更新、问题排查与技术支持工作,输出运维文档、故障处理流程、培训资料等配套内容。
任职要求
1.计算机类相关专业本科及以上学历,具备2年以上AI工程实施或私有化项目交付经验。
2.至少熟练掌握以下开源框架中的两项,并拥有实际部署与二次开发经历:LangChain/LlamaIndex/Dify/Haystack/RAGFlow/FastGPT/Flowise
3.熟悉至少一种主流大模型推理方案,如hf原生/vllm/sglang,理解其底层推理并行技术原理。
4.精通Python&PyTorch,具备扎实的工程实现能力;可使用C++/CUDA或Golang开发高性能计算组件或辅助服务模块。
5.掌握向量数据库(Milvus、Weaviate、PGVector、OpenSearch-k-NN)的高可用架构部署、性能调优及数据迁移方法;
6.具备强烈的技术探索意愿,良好的表达能力和协作意识,能积极应对变化并快速融入新环境;拥有出色的逻辑分析能力、沟通协调能力、抗压能力与情绪管理能力。
【base城市:北京or长春】
相似职位
很抱歉,暂无相似职位!