此信息由前程无忧(51JOB)审核并发布（查看原发布网址），应届生求职网转载该信息只是出于传递更多就业招聘信息，促进大学生就业的目的。如您对此转载信息有疑义，请与原信息发布者前程无忧(51JOB)核实，并请同时联系本站处理该转载信息。
[上海]上海临港漕河泾人才有限公司
职位：孵11-2大模型推理框架开发工程师
发布时间：2024-11-27
工作地点：上海
信息来源：前程无忧(51JOB)
职位类型：全职
职位描述
职能类别:推荐算法工程师
【校招-大模型推理框架开发工程师】
职位描述
1.负责大模型推理的基础软件框架研发；
2.负责对接上层大模型算法应用部署组件，高效封装自研底层编译器框架和后端多源算子库；
3.保证线上请求不同SLO下服务的高可用性;
4.参与实现低开发门槛和用户友好的大模型中间层软件栈。
职位要求
1.硕士及以上学历，计算机相关专业；
2.熟悉/C++ 和 Python，有扎实的数据结构和算法基础；
3.【加分项】了解TensorRT或大模型推理平台的研发和优化；
4.【加分项】 了解 FlashAttention、PageAttention等大模型推理计算库；
5.【加分项】了解MLIR、TVM、Triton等深度学习编译相关工作，有其中一种开发经验者优先。"
公司简要介绍：
公司名称:上海临港漕河泾人才有限公司
公司类型:民营公司
公司介绍: