王一同
清醒异构科技有限公司市场副总裁
现就职于清醒异构市场部,主要负责AI大模型与商业场景的战略融合。具有材料学跨学科背景,曾主导创业公司产研结合落地。基于VLLM、SGlang、Langchain支持的推理部署和RAG,不断探索AI大模型落地应用场景。主导包含企业服务、文旅、政务等多行业AI应用落地案例。致力于做一家有愿景的AI Runtime公司。
演讲主题
AMD ROCm大模型应用实战
结合清醒异构目前应用实战案例:DeepSeek-V3本地推理:使用ROCm Docker+SGLang优化,支持671B参数MoE模型;VLLM,SGlang,Langchain支持的推理部署和RAG等。技术的价值,最终由市场定义。从实际角度出发,对于AMD GPU ROCm大模型应用落地,通过精准定位需求、快速迭代交付,以及生态伙伴的协同创新,让大模型真正成为行业增长的“引擎”,大模型应用实战充斥无限可能。 大纲: AMD GPU ROCm大模型应用实战——开源生态、硬件优势与应用实践 ROCm生态系统核心组件与工具链 ROCm生态定位 AMD GPU ROCm大模型应用实战