方晗吟
哔哩哔哩资深算法工程师
博士毕业于浙江大学，主要研究方向包括多媒体检索及智能问答，并在 AAAI 等国际学术会议期刊上发表多篇相关论文。目前任职哔哩哔哩资深算法工程师，负责 LLM 在搜索场景落地的创新业务，聚焦于利用 LLM技术与搜索系统能力的深度结合，全面提升用户的视频搜索体验。早期曾在阿里巴巴等国内头部互联网企业从事搜索智能问答、信息流排序等算法研发工作，涉及 CV/NLP及用户行为预估等机器学习模型应用领域。
演讲主题
B站大模型与搜索AI助手的技术实践
随着 ChatGPT 的横空出世，大语言模型（LLM）迅速以其颠覆性的人机交互方式及对自然语言任务的超强泛化能力引爆新一轮 AI 热潮。大语言模型与搜索系统相结合的落地创新，也逐渐成为业务实践的一大焦点（例如，NewBing、文心一言等业界头部产品）。本次演讲，将会介绍哔哩哔哩自研大语言模型（index） 在搜索业务中的实践探索经验（内测产品：搜索AI助手）。内容涉及：如何利用搜索系统对大语言模型在应用侧的短板（内蕴知识的时效性、真实性，以及推理成本过高）提供良好的补充；如何利用大语言模型良好的few-shot迁移泛化能力，对视频搜索系统的关键环节进行迭代提速；以及大语言模型与搜索系统通过LLM agent 模型进行有机结合的探索。
