王闻宇
PPIO 联合创始人&CTO
王闻宇（Wayne Wang） PPIO 联合创始人&CTO •创始合伙人&CTO •毕业于华中科技大学 •PPTV首席架构师 •极豆车联网联合创始人&CTO •LiveVideoStack核心讲师 •49项专利持有人 •连续创业者 2004年，参与PPTV的创立，2008年在华中科技大学读研期间休学继续创业。作为创始团队成员和首席架构师，从第一行代码开始建构PPTV，中间经历多次技术架构重构和PP视频云服务的打造，直到被苏宁云商收购。 2014-2018年期间，作为极豆车联网联合创始人二次创业，期间带队研发了中国首个车载智能系统：极豆OS，以及一系列车规级软硬件技术攻关，并在全球汽车行业的无人驾驶大赛中获得优秀名次，产品曾服务于奥迪，宝马，奔驰等国际知名车厂。 2018年，和原PPTV创始人姚欣共同创办PPIO，进行第三次创业。
演讲主题
PPIO：如何做到算力基建和推理优化的"软硬兼施"与创新突破
LLM快速发展，高昂的推理成本已成为阻碍其广泛应用的主要障碍之一。本演讲将深入探讨LLM推理的成本优化、从软硬件分享性能提升的方法，并展示在PPIO GPU Cloud中的实践案例，为开发者和学者提供突破LLM推理瓶颈的新思路。 1.LLM推理成本高企阻碍行业落地应用 2.LLM推理的计算开销和性能指标演算 3.LLM推理优化的基础方案探讨 4.LLM推理优化的高级方案探讨 5.LLM推理优化技术在PPIO GPU Cloud中的综合应用 6.PPIO GPU Cloud 高性价比的算力租赁和模型托管服务 7.总结
