欢迎访问行业研究报告数据库

行业分类

当前位置:首页 > 报告详细信息

找到报告 1 篇 当前为第 1 页 共 1

软件与服务行业:微调调参或成行业应用“孵化器,如何落地最后一公里?

加工时间:2023-08-15 信息来源:EMIS 索取原文[14 页]
关键词:软件与服务行业;微调调参;AI
摘 要:

微调过程中的调参是一项工程性项目。拥有高算力的厂商能够在更短的时间内通过经验的不断积暴得到调参的合理配方,以更好地调参能力兴弥补由于数据质量或者其他因案造成的对模型性能的影响。同时可以继续加码模型的参数量规模以争取实现模型能够达到更好的质变效果。换句话说,当调参还没有完全形成高效可用的范式工具时,大厂商会由于资源优势、技术优势具备更强的护城河壁垒。但是当调参具备范式,调参工具不断优化,真正开始得到有效应用的时候,数据的稀缺性、数据质量、数据配方才是最终决定模型性能天花板的核心竞争力。对比国内外大模型可以发现,在几乎同等参数规模下,GPT-4 以及 GPT-3.5 在大部分任务的表现上要优于国内诸多自研模型。其核心原因在于微调过程中如何调参的经验值的差距,以及微调过程中使用数据的质量和最优配方的差距,因此算力在一定程度上决定着模型的下限,而数据仍是影响模型性能天花板的顶梁柱。


目 录:

image.png

© 2016 武汉世讯达文化传播有限责任公司 版权所有
客服中心

QQ咨询


点击这里给我发消息 客服员


电话咨询


027-87841330


微信公众号




展开客服