欢迎访问行业研究报告数据库

行业分类

当前位置:首页 > 报告详细信息

找到报告 1 篇 当前为第 1 页 共 1

从训练到推理:算力芯片需求的华丽转身——算力专题研究二

加工时间:2024-09-03 信息来源:EMIS 索取原文[10 页]
关键词:推理算力;算力芯片;Scaling Laws&长文本趋势
摘 要:

我们在此前外发报告《如何测算文本大模型 AI 训练端算力需 求?》中,对未来三年 AI 训练卡需求持乐观态度。我们认为,推理侧算力对训练侧算力需求的承接不意味着训练需求的趋缓,而是为算力 芯片行业贡献第二重驱动力。当前推理算力市场已然兴起,24 年 AI 推理需求成为焦点。据 Wind 转引英伟达 FY24Q4 业绩会纪要,公司 2024 财年数据中心有 40% 的收入来自推理业务。如何量化推理算力需求?与训练算力相比,推理侧是否具备更大的发展潜力?我们整理出 AI 推理侧算力供给需求公式,并分类讨论公式中的核心参数变化趋势,以此给出我们的判断。


目 录:

image.png

© 2016 武汉世讯达文化传播有限责任公司 版权所有 技术支持:武汉中网维优
客服中心

QQ咨询


点击这里给我发消息 客服员


电话咨询


027-87841330


微信公众号




展开客服