演讲主题

AI for AI:如何让大模型来制作大模型

目前，大语言模型的设计涉及到多个关键环节，包括数据收集、模型结构、SFT、RM模型构建、RLHF等，每个环节都需要大量繁琐复杂的人工介入，为了改善模型效果，也需要算法研究人员不断设计各种优化技术与方案。大模型技术发展的趋势是在各个关键环节由大模型本身来替代人工工作，以降低模型建造成本并加快模型迭代速度。本次分享将介绍在大语言模型各种关键环节中，如何利用大模型来自动设计效果更好的大模型，以实现大模型的自我进化目标。