宋顾杨
蚂蚁Ray团队开源负责人
Ray开源社区Committer,2015年加入蚂蚁集团,一直从事基础架构方面的工作。2017年以来主要参与和推动了Ray在蚂蚁从0到1再到万台服务器规模的落地。开源社区方面,是Ray C++分布式框架的作者和Runtime Environments框架的主要开发者,也是Ray中文社区的布道师。
演讲主题
Ray:大模型时代的分布式计算引擎架构与实践
Ray作为通用分布式计算引擎,已经在分布式计算和AI计算领域深耕多年。随时大模型时代的到来,Ray由于其天然的优势已经被OpenAI等公司广泛应用于大模型相关架构中,成为大模型时代的基础设施。本次演讲将介绍Ray引擎的核心能力和开源生态,并结合Ray Summit 2023的最新内容,介绍基于Ray的最佳实践案例。