[北京]中科南京软件技术研究院

职位：大模型算法（实习生）
发布时间：2024-12-19
工作地点：北京
信息来源：前程无忧(51JOB)
职位类型：全职
职位描述
专业1:软件工程
专业2:人工智能
职能类别:算法工程师
岗位职责：
1.开展预训练模型训练加速相关研究。包括但不限于优化PyTorch、Tensorflow 等深度学习框架，使用Megatron、DeepSpeed等框架对预训练模型进行优化，进行大模型量化计算、网络通信、算子融合优化；
2.负责预训练模型的部分加速。包括但不限于多卡任务调度，算子优化等；
3.与团队成员协同工作，设计实现各类模块、功能，并进行性能调优:解决团队研发过程中遇到的效率问题，如分布式计算加速、性能瓶颈分析和评测、模型算法优化等；
4.探索创新，积极探索新方法、不断提升工作效率及团队协调开发能力。
任职要求：
1.硕士及以上学历，计算机系统结构专业优先，计算机科学与技术/软件工程/人工智能/大数据/电子信息/通信等相关专业优先；
2.良好的编程风格与文档撰写能力，有多人协作开发及Code Review 经验，对代码有严格的质量要求；熟悉常见开发规范，熟悉Git等开发工具，熟悉代码库的创建与维护操作；
3.熟悉GPU架构、熟悉国产自研加速芯片架构优先，如华为异腾、百度昆仑、寒武纪、DCU等熟悉CUDA编程，有一定的高性能编程经验，有神经网络训练加速、推理加速和显存优化经验的优先。掌握深度学习基础知识，至少熟悉一种深度学习编程框架，如 PyTorch、Tensorflow、Paddle、MindSpore等，有预训练模型开发、部署、调试经验的优先;有计算优化加速经验软件/体系结构开发经验、系统级调优经验的优先。 公司简要介绍：
公司名称:中科南京软件技术研究院
公司类型:事业单位
公司规模:150-500人
公司介绍:中科南京软件技术研究院，是南京市登记设立的的科研事业单位。研究院主要面向软件技术、人工智能等领域开展基础研究和应用研究、应用示范及产业化，致力于突破核心关键技术，加速成果转移转化，建设软件产业新型智库，打造软件产业人才高地。研究院自2019年8月成立以来快速成长，现已布局智能系统软件、服务机器人通用软件平台、智能无人系统训练与评估平台、云计算与大数据、物联网城市大脑等五个具体科研方向。