免费领取大会全套演讲PPT    

点击领取

我要参会

苏乐

蚂蚁集团 AI Infra技术专家

苏乐,蚂蚁集团AI Infra技术专家,目前主要负责AReno项目的研发,曾就职隐私计算初创公司担任高级技术专家,负责隐私计算核心系统研发,曾在蚂蚁负责Ray分布式计算系统的研发,对Ray进行过系统性的底层优化。本科毕业于清华大学,曾参与工控系统安全相关科研,低功耗蓝牙安全相关科研。

演讲主题

破局大模型后训练:AReno 训推一体架构设计与具身智能实践

RLHF、DPO 等后训练任务越来越复杂,很多瓶颈已经不在算法本身,而在系统:GPU 利用率低、权重同步慢、显存吃紧、训练和推理链路割裂。AReno 尝试用“训推一体”把这些问题放到同一套架构里解决。 本次分享会讲清楚 AReno 的核心设计,包括算法接口、模型适配、训推引擎、权重同步、融合算子和显存管理。这次不讲概念,讲工程取舍:哪些优化真的能省资源、提性能,哪些地方会影响稳定性。 并介绍 AReno 在具身智能方向的实践,包括 VLA 模型接入、仿真环境交互、轨迹采集和策略后训练。Demo展示 ARenoflow 如何用 Agent 把自然语言需求转成训练配置,并串起训练、诊断和部署。 大纲: 1. 后训练为什么卡在系统层 资源浪费、通信开销、训推分离带来的调试和迭代成本。 2. AReno 训推一体架构 从算法接口、模型适配到执行引擎,如何拆层,如何控制复杂度。 3. 性能、显存和稳定性的取舍 权重同步、低比特优化器、融合算子、分桶预取和异步卸载的实践经验。 4. 具身智能场景的系统支撑 VLA 接入、仿真交互、轨迹采集和策略后训练如何接到同一套链路。 5. ARenoflow 实验闭环 用 Agent 生成训练配置,完成训练编排、运行诊断和模型部署。 听众收益: - 看懂后训练系统的主要瓶颈,不只盯算法。 - 理解训推一体架构怎么拆、怎么落地。 - 带走显存优化、权重同步、融合算子等工程经验。 - 了解 VLA 和仿真环境接入后训练系统的关键路径。 - 看到 AI Native 平台如何减少实验中的重复劳动。

© boolan.com 博览 版权所有

沪ICP备15014563号-6

沪公网安备31011502003949号