演讲主题

重新定义“计算”：面向Agentic AI的芯片架构设计方法论

Agentic AI的持续推理与自主决策，推动架构设计从“如何算得更快”转向“如何让数据流动得更聪明”。本演讲立足于三个热点：访存、通信延迟、Agent自优化，推动AI飞轮。 大纲： 1.大规模数据处理面临的挑战：访存、通信、软件栈迭代 2.访存延迟与async copy 3.remote write+barrier机制的通信延迟 4.agent自动优化 a) tensor algebra找到最优的layout转换方式并降低出错概率; b) 异步+流水线给agent提供performance diagnose的机会 听众收益： 听众将带着一个新认知框架、三把技术钥匙、一个前瞻视角离开会场——既知道“为什么变了”，也知道“如何应对”，更知道“该往哪里去”。 一、认知层面：理解 Agentic AI 时代的根本性范式转移 Agentic AI 让算力不再成为唯一的芯片衡量标准，芯片、系统乃至生态迭代的延迟降低更是算力的基础底座。 你将帮助他们理解为什么多步推理、长上下文和 MoE 模型正在把传统架构推向极限，以及为什么“算得更快”已经让位于“让数据流动得更聪明”。 二、技术层面：获得可落地的架构设计思路 听众将掌握三把新的“钥匙”： 1. 异步访存与同步：理解 TMA 解耦计算与数据加载，实现“让计算单元永远有数据可算”的流水线设计。 2. 低延迟远程通信：掌握Remote Write+硬件屏障机制如何降低跨卡通信中的同步开销。 3. 自动优化方法论：了解如何从数学层面自动推导最优数据布局，以及异步编程框架成为性能优化的基础。 三、战略层面：建立软硬件协同设计的前瞻视角 为听众提供软硬件协同设计新视角：架构设计需要为上层 Agent 提供“可观测性”。