beat365中国在线体育AI训练一次 把我家这辈子的电都用完了

　　beat365中国在线体育AI训练一次 把我家这辈子的电都用完了前两天阿里刚结束的云栖大会上，中国工程院院士、阿里云创始人王坚就打了这么一个比方

　　过去一百年里，全球电动机消耗掉的电量就占到了总发电量的一半，而现在的大模型就相当于新时代的电机。

　　Huggingface 的科学家就专门测试过各个大模型的耗电量和碳排放，世超翻了翻这篇论文，也是直观地感受到了大模型耗电的疯狂。

　　先是 Huggingface 自家的 BLOOM 大模型，有 1760亿参数，光是前期训练它，就得花掉 43.3 万度电，我换算了下，相当于国内 117 个家庭一年用掉的电量。

　　和它参数量相当的 GPT-3 ，耗电量就更不受控制，同样是前期训练，就要用掉128.7 万度电，足足是前者的三倍。

　　甚至有人做过这样一个类比， OpenAI 每训练一次，就相当于 3000辆特斯拉同时跑 32 公里。。。

　　一般来说，训练就是不断调整参数、重复训练beat365中国在线体育，最后得到一个使用体验最好的模型beat365中国在线体育，整个过程是有限度的。

　　后期的推理过程就不一样了，比如我们用 ChatGPT ，每问一次问题都相当于是一次推理请求。

　　更具体一点，拿自动驾驶来说，前期训练花费的能耗成本就只有两三成，剩下的七八成都是后期的推理消耗的。

　　《晚点 LatePost 》之前也拿 ChatGPT 做了这么一个测算，按日均最高访问量 2.7 亿次来计算，假设每个人每次访问会问五个问题，一整个月下来光是推理消耗的电量就是 1872 万度。

　　总的来讲， AI 这几年来消耗的电力正在以指数级别增长，然而现在全球发电已经差不多已经趋于平缓。

　　国内卷得就更厉害，百度的文心一言、阿里的通义千问、腾讯的混元等等等等，参数一个赛一个高，这还只是大厂们的赛道，一些大模型初创企业更是海了去了。

　　在数据中心，用电最多的地方就是 AI 服务器，因为要有大规模的计算，普通的服务器根本就不够用，还得用专属的 AI 服务器。

　　然鹅 AI 服务器，光是功率就比普通服务器高出了六七倍，普通服务器一般只需要两个 800W~1200W 的电源， AI 服务器，则要 4 颗 1800W 的高功率电源。

　　AI 的耗电，当然卷大模型的厂商比我们清楚得多，毕竟在他们那里可是真金白银的电费哗哗往外流。。。

　　就比如国内目前就在搞“东数西算”的工程，在西部清洁能源丰富的地区建立数据中心，用来处理东部的数据。

　　并且东部地区数据中心密集，工商业的平均电价大概在0.676 元/度，而西部地区平均电价在0.541 元/度，钱不就这么省下来了么。

　　像 OpenAI 和微软都先后投资了核能发电，不过不是传统的核裂变发电方式，而是还在实验室阶段的核聚变。

　　早在 2015 年， OpenAI CEO 奥特曼就对核聚变发电感兴趣了，向一家核聚变初创企业 Helion 投资了 950万美金， 2021 年，又给它豪掷了 3.75 亿美元beat365中国在线体育。

　　紧接着在今年 5 月份，在核聚变发电站还没着落的时候，微软就和 Helion 签订了购电协议，说要在 2030年前实现负碳目标。

　　世超倒真有点好奇，这个 Helion 到底有什么魔力，在八字还没一撇的时候，让 OpenAI 和微软先后都在它身上下这么大的注。

　　不过这事吧，从它给微软的的承诺中就能窥探出一二。Helion 在那份购电协议中表示， 2028 年前上线的核聚变装置，在一年内会把发电功率提升到 50兆瓦以上。

　　更重要的是，买核聚变发出来的电，还贼拉便宜，折合民币相当于 7 分钱一度电，这谁挡得住啊。

　　微软也没把所有鸡蛋放在一个篮子里，在下注核聚变发电的同时，他还看好了近几年发展起来的小型核反应堆（ SMR ）。

　　发电功率也是传统反应堆的三倍，并且 SMR 也不用担心损坏时释放放射性元素，因为它能在第一时间自动关闭系统。