演讲主题

⾏星级别的⼤模型基础设施

在⼈⼯智能领域激烈竞争的今天，算⼒基建是决定最后成败的主要因素之⼀。 ⼤纲： 1、⼤模型构成四要素：数据，模型，芯⽚，算⼒。 门槛 逐级攀升。 2、为什么算⼒的门槛最⾼ 也是LLM最后成败的关键。 3、什么是⾏星级别的算⼒基建？核电直供的集中式的训练，地理分散式的推理。 4、⾏星算⼒基建的主要挑战 - 物理定律的挑战及其解决⽅案：能量密度，⽹络密度，散热密度 - 时间规律的挑战及其解决⽅案：数据中⼼规划（地，电，⽔），⽹络规划，芯⽚规划 - 财务规划的挑战及其解决⽅案：财务决策时间线，投资回报时间线 - 沟通协作的挑战及其解决⽅案：规划-》设计-〉施⼯-》部署-〉运营-》拆建