演讲主题

基于大语言模型检索增强的代码生成

利用LLM进行代码生成常见的是通过注释引导，批量生成代码。在LLM模型中，往往对应 zero-shot 的情况，但是参数较少的模型 zero-shot 能力不足，参数大的模型需要的计算成本较高，无法在特定的时延内完成代码生成工作。借助检索增强，参数、上下文窗口较少的模型可以近似达到较多参数，长上下文的模型表现，同时具备更快的生成速度。通过叠加多次检索增强的LLM推理，可以完成相对复杂的代码合成任务。 在本主题中，听众将了解 1. 目前编辑器代码合成的工作方法2. 借助 few-shot 与 检索增强，如何显著提升代码合成的准确性3. 一种利用多个小模型配合完成复杂生成任务的方法。