免费领取大会全套演讲PPT    

立即领取

孟令公

得物机器学习高级专家

主要负责得物算法平台的相关研发工作。在得物从0到1打造通用大模型训练和推理平台。曾就职于腾讯、阿里等多家互联网大厂。2022年加入得物,专注于大模型相关技术,包括推理加速与各应用场景落地,曾在得物技术公众号发表过多篇高质量大模型相关文章,比如:利用多Lora节省大模型部署成本,KubeAI大模型推理加速实践,得物大模型平台接入最佳实践。

演讲主题

大模型在得物部署优化实践

主要介绍DeepSeek等大模型在得物部署与落地的经验,包括大模型推理性能优化,部署成本节省,以及我们如何从0到1构建大模型训练平台,让各业务方以低门槛对大模型进行微调训练与部署上线。 大纲: 大模型推理引擎优化 DeepSeek大模型部署优化 得物大模型训练与推理平台实践

© boolan.com 博览 版权所有

沪ICP备15014563号-6

沪公网安备31011502003949号