【一次普通的AI提问用多少电?几家的估算都在0.3Wh上下】
Google公布的Gemini文本查询中位数约0.24Wh;Sam Altman说ChatGPT平均一次约0.34Wh;Epoch AI独立估算的典型ChatGPT查询约0.3Wh。
输入越长、任务越复杂,耗电越高:Epoch AI估算,7500词的长输入约2.5Wh,75000词的最长输入约40Wh;国际能源署估算,一次普通的agent请求约1.1Wh,带推理的agent任务约50Wh。
40Wh是什么概念:微波炉转1分钟17Wh,把手机充满20Wh,看1小时电视90Wh,烧一壶1.6升的水100Wh,洗1分钟热水澡160Wh。
但放进一个人一天的用电里仍然很小。欧盟全社会的用电量平均到每人每天约17000Wh,相当于6800次长输入查询,或425次最长输入的查询,而美国人均用电约是欧盟的两倍。
