欢迎访问行业研究报告数据库

行业分类

当前位置:首页 > 报告详细信息

找到报告 1 篇 当前为第 1 页 共 1

计算机行业:ChatGPT训练及多场景推理成本测算-专题研究报告

加工时间:2023-03-15 信息来源:EMIS 索取原文[7 页]
关键词:AI 模型训练成本估算;ChatGPT 推理成本估算;搜索引擎场景;办公软件场景;AI 客服场景
摘 要:

2023 年3 月1 日,OpenAI 宣布开发者可通过API 将ChatGPT 和Wisper 模型集成到他们的应用程序和产品中。本次ChatGPT API 接入的模型名为GPT-3.5-turbo,只需0.2 美分/千 Tokens。本文尝试测算训练和不同推理场景之下的实际成本;未来随着模型压缩的持续发展,推理成本可能进一步降低,也有望大幅推动生成式模型在各个场景的大规模商用。我们的成本估算思路是:计算AI 模型在进行训练与推理时所需的浮点运算次数,与AI 算力集群的平均算力 (以每秒浮点运算次数计) 做比,以此估算AI 模型的训练成本与推理成本。



目 录:

image.png

© 2016 武汉世讯达文化传播有限责任公司 版权所有
客服中心

QQ咨询


点击这里给我发消息 客服员


电话咨询


027-87841330


微信公众号




展开客服