到 2028 年,数据中心基础设施和运营成本预计将增加超过 760 亿美元
更新图片:ChatGPT 3.5 与 vicuna-13B 之间的比较已得到改进,以便于阅读。
生成人工智能大型语言模型(GenAI)的推出吸引了全世界,并让人们更加意识到人工智能的潜力。 GenAI 能够实现许多壮举,包括进行对话、编写软件代码和通过测试的能力。 但这些仅仅是开始。 这种创新能力是有代价的,无论是在功耗还是处理性能方面。 虽然人工智能的潜力是无限的,但成本和物理因素最终可能会带来限制。
Tirias Research 预测,如果目前的路径继续下去,到 2028 年,生成式 AI 服务器基础设施和运营成本合计将超过 760 亿美元。这种增长将对搜索和内容创建以及业务自动化等新兴服务的商业模式和盈利能力提出挑战。 纳入 GenAI。 这一成本大约是亚马逊 AWS 云服务预计年度成本的两倍,根据 Tirias Research 的数据,亚马逊 AWS 占据了云基础设施服务市场的三分之一。 该预测包括计算硬件性能提高 4 倍。 然而,处理工作负载 50 倍的增长抵消了这一影响。 尽管推理算法快速创新,但情况仍然如此。 设计用于大规模运行的神经网络(NN)将随着时间的推移变得更加优化并不断改进。 这将增加每台服务器的容量。 这种改进被使用量的增加、更苛刻的场景以及具有更多数量级参数的复杂模型所抵消。 GenAI 的成本和规模将需要创新来优化神经网络,并且数据中心的计算负载很可能会转移到 PC 和智能手机等客户端设备。
来源和详细信息:
https://www.forbes.com/sites/tiriasresearch/2023/05/12/generative-ai-breaks-the-data-center-data-center-infrastructure-and-operating-costs-projected-to-increase-to-over-76-billion-by-2028/?sh=36164d4b7c15