推广 热搜: 京东  联通  iphone11  摄像头  企业存储  iPhone  XSKY  京东智能采购  网络安全  自动驾驶 

研究揭示:AI“推理环节”电力需求高于预期

   日期:2023-10-16     作者:itcg    浏览:310    我要评论    

IT采购网10月14日消息,《Cell》的姐妹期刊《Joule》本周刊登了一项名为《持续成长的人工智慧能源足迹(The growingenergy footprint of artificial intelligence)》的研究论文,该论文由科研机构Digiconomist的创始人AlexDeVries发表。这篇论文指出,未来人工智能(AI)的推理性能可能会对电力需求造成巨大压力,到2027年,AI的用电量可能相当于荷兰一整年的电力消耗。

据IT采购网了解,Alex DeVries强调,一直以来,人们普遍认为AI模型的训练过程是电力消耗最大的环节,但根据SemiAnalysis和谷歌的报告,实际上,AI中的“推论环节”消耗的电力更多。从2019年到2021年,与AI相关的能源消耗中,预计有60%来自模型推理。

Alex De Vries还引用了谷歌在2021年公开披露的18.3TWh电力消耗数据,声称当时AI占了谷歌公司整体用电量的10%到15%。然而,在谷歌全面实施“AI搜索”后,该公司在AI方面的电力消耗最高可能达到27.4TWh,接近爱尔兰一整年的电力消耗(29.3 TWh)。

从整个市场角度来看,随着英伟达合作伙伴台积电(TSMC)计划于2027年开始量产新的CoWoS工厂,Alex DeVries估计到那时,英伟达交付的所有AI服务器的总用电量将达到85至134 TWh,相当于荷兰一整年的电力消耗。

为减缓AI对电力的不断增长需求,Alex DeVries建议AI产业应提高硬件效率,改善模型演算效率,并要考虑使用AI的必要性,以减少AI行业的能源消耗成本。

 
反对 0举报 0 收藏 0 打赏 0评论 0
 
更多>同类资讯
0相关评论

头条阅读
推荐图文
相关资讯
网站首页  |  物流配送  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  RSS订阅  |  违规举报  |  京ICP备14047533号-2
Processed in 0.144 second(s), 11 queries, Memory 1.48 M