[广州]广州登甲人工智能科技有限公司

职位：大模型调优工程师
发布时间：2026-06-25
工作地点：广州
信息来源：前程无忧(51JOB)
职位类型：全职
职位描述
福利:五险一金 带薪年假 有餐补 带薪病假 专业培训 绩效奖金
职能类别:算法工程师
1. 开源模型部署与推理优化
负责DeepSeek、Qwen、GLM等主流开源大模型的本地化部署与生产级推理优化；
基于vLLM、SGLang、TensorRT-LLM、TGI等推理引擎做二次开发与性能调优，持续提升TPM（每分钟Token数）和并发吞吐；
针对长文本、多轮对话、高并发场景，优化KV Cache管理、Continuous Batching、Prefix Caching、投机解码（Speculative Decoding）等策略。

2. 模型量化与压缩
主导模型量化工作：FP8、FP4、INT8、INT4及混合精度量化，在精度损失可控的前提下***化降低显存占用、提升推理速度；
针对MoE架构（如DeepSeek-V3/V4）设计专项优化方案，解决专家路由、负载均衡、显存碎片等瓶颈。

3. 分布式与异构算力适配
设计多卡并行推理方案（Tensor Parallelism / Pipeline Parallelism / Data Parallelism），突破单卡显存墙；

4. 模型微调
基于业务场景需求，使用LoRA、QLoRA、Full Fine-tuning等技术进行垂直领域模型微调；

5. 性能基线与工具链建设
建立系统化的模型性能评测体系（延迟、吞吐、显存占用、功耗），输出可复现的调优报告；
沉淀内部工具链与自动化脚本，提升模型上线效率。 公司简要介绍：
公司名称:广州登甲人工智能科技有限公司
公司类型:民营公司
公司规模:少于50人
公司介绍:登甲人工智能是一家基于大语言模型的行业级AI Agent平台公司，核心成员主要来自于阿里云大模型产品及行业团队、清华大学等国内外知名企业及高校。是国内探索大语言模型建筑行业落地和AI Agent的先行者。大模型产品主要聚焦在建筑规划投资决策领域，借助大模型生成规划以及投资决策建议，提升建设项目投资有效性。在建筑施工环节基于大模型提升建筑施工管理效率。在建筑后运维场景中实现节能、智能管控。公司研发的建筑大模型分别在2024年6月、10月通过了中央网信办算法备案、大模型备案。并荣获2024年广州人工智能创新发展大模型赋能榜单企业、2025年广州市人工智能应用先锋榜。