[上海]格至控智能动力科技（上海）有限公司

职位：AI平台运维
发布时间：2026-09-16
工作地点：上海
信息来源：前程无忧(51JOB)
职位类型：全职
职位描述
职能类别:运维工程师
岗位职责：
1、模型私有化部署与升级
? 负责开源大模型（如Qwen、Llama 3、DeepSeek等）的本地化部署，包括环境准备（驱动、CUDA、cuDNN）、容器化封装（Docker镜像构建）、K8s编排部署。
? 制定模型升级SOP，确保新版本上线不影响已有服务。
? 维护模型版本管理，支持多模型并行服务（如同时跑7B和72B模型供不同场景调用）。
2、推理服务性能优化
? 基于vLLM、Ollama、TensorRT-LLM等推理框架进行部署调优，优化首Token延迟（TTFT）和吞吐量。
? 根据业务需求实施量化方案（INT8/INT4），在可接受的精度损失范围内降低显存占用。
? 配置自动扩缩容策略，高峰期自动增加推理实例，低峰期释放资源节省成本。
3、GPU集群运维与监控
? 日常监控GPU节点健康状态（温度、显存、功耗、驱动版本），排查硬件/驱动异常。
? 搭建监控面板（Prometheus + Grafana），实时展示各模型服务的QPS、延迟、显存占用等关键指标。
? 编写自动化脚本，定期清理GPU缓存、归档日志、检测异常进程。
? 制定GPU故障应急预案（如单卡损坏时的服务迁移方案）。
4、安全与权限管理
? 搭建模型API的鉴权体系（API Key管理、LDAP/SSO集成），确保只有授权员工能访问。
? 配置网络隔离策略，确保模型服务仅限内网访问，不暴露到公网。
? 对接公司日志审计系统，记录所有模型调用行为（谁、什么时间、问了什么），满足合规要求。
5、开发者平台支持
? 为内部应用开发团队提供模型API文档和技术支持，协助他们对接模型服务。
? 维护内部模型服务状态页，让各团队能实时查看服务可用性和版本信息。
任职要求：
1、本科及以上；
2、精通Linux系统管理，熟练使用Shell/Python编写运维脚本；
3、深入理解Docker容器技术，有Kubernetes集群管理经验；
4、熟悉NVIDIA GPU软硬件栈（驱动安装、CUDA版本管理、多卡通信NCCL）；
5、了解大模型推理框架（vLLM/TGI/Ollama）的基本架构和配置方式；
6、有CI/CD流水线（Jenkins/GitLab CI）搭建经验者优先。 公司简要介绍：
公司名称:格至控智能动力科技（上海）有限公司
公司类型:合资
公司规模:1000-5000人
公司介绍:格雷博智能动力科技有限公司（GLB Intelligent Power Technologies）致力于为新能源汽车厂商提供电驱动总成系统解决方案，是由多位留美华人专家、国内知名上市公司、一线车企、国际知名投资机构共同出资组建而成的中外合资企业公司。 公司拥有强大完善的研发、工艺及生产团队，专注于对新能源电驱动总成的开发和生产。研发中心坐落于上海，在新产品设计研发方面与国内外知名整车厂和研究机构保持长期紧密合作，已申请授权多项发明专利、实用新型、外观专利及软件著作权。 公司在纯电动乘用车驱动系统方面为国内多家一线整车企业进行长期、稳定的批量生产供货。同时在混动系统领域有多年的经验积累，现正与国内多个一线主机厂的混动汽车平台进行合作研发和配套生产。 发展至今，格雷博在上海浦东金桥自贸区建立了运营管理中心和高水平研发中心，在上海奉贤及浙江温岭拥有独立的生产基地。 格雷博以“面向未来，以领先的电气化、智能化动力科技成就客户” 为使命，为“驱动一个安全、智慧和清洁的世界”的愿景努力奋斗。 快速发展中的格雷博充满青春与活力，清一色的80后高管团队，满怀奋斗精神，保持昂扬的斗志，坚信公司与员工相互成就，视员工为合作伙伴，引领大家高效工作、快乐生活。 如果您是正直的、有担当的伙伴： 加入格雷博，您就跨进了极具前景的新能源汽车核心领域 加入格雷博，您将拥有广阔的职业发展空间 加入格雷博，您将获得极具竞争力的福利待遇，丰富多彩的团建活动 风雨兼程我们在一起，奋斗再出发我们在一起，共享荣光我们依然在一起！ 来吧，加入格雷博，让我们共享发展的成果！