三年内大模型训练成本或达千亿美元、当前GPT-4o仅1亿级别
# 三年内大模型训练成本或达千亿美元、当前GPT-4o仅1亿级别。1)根据新智元报道,Anthropic在In Good Company播客节目中表示,目前正在开发的人工智能模型的训练成本高达10亿美元。而GPT-4o仅需花费1亿美元。2)Anthropic预计,从现在开始,短短三年内,AI模型的训练成本将上升到100亿美元甚至1000亿美元。 # 参数量或与训练成本成正比、硬件、能源等为主要开支。1)硬件成本为核心,主要包括购置和维护高性能计算设备(如GPU、TPU、CPU集群等)的费用。这些设备是执行大量计算以训练大规模模型所必需的。2)其次成本的重头还在于能源消耗。GPT-3的训练约消耗1300兆瓦时电力,如果连续播放视频可持续播放约186年。由此可见,AI模型训练是一个高度能源密集的过程,涉及到大量的计算操作和数据交换。3)另外还包括人才资源、数据处理、运维成本等。 # 训推需求仍在扩张、【算力依旧为基】。1)根据新智元报道,埃隆·马斯克计划采购30万个B200 AI芯片,OpenAI和微软正在计划建造一个价值1000亿美元的AI数据中心,训推需求仍在扩张。2)我们持续看好算力作为基建,在AIGC大浪潮中的先行落地,
下一篇