AT时代的矛盾：算力需求快速增长，单个 die 的晶体管数量增长受限。AI 时代下，模型参数量越大，训练模型所用的数据越多，训练模型的计算量越大，对应模型的性能越好。因此常用 Scaling Law 来表征算力需求 的规模。据华为测算，未来大模型算力需求将维持每 6 个月翻一番的趋势直到 2030 年，也即是维持每年翻 4 倍的高速增长。而作为算力的供给方，单个 die 的晶体管数量增加愈发困难。随着芯片制程的提升，晶体管密度的复合增速越来越慢，并将在 3nm 之后降为个位数。与此同时，芯片面积受到 reticle limit 的影响，单个 die 的面积不能超过 858mm2，因此单个 AI die 的晶体管数量增速显著放缓。在摩尔定律和 Scaling Law 冲突的背景下，如何继续提升芯片的算力成为各大厂商发展的重点。