据界面新闻10月16日报道,字节跳动旗下火山引擎披露最新大模型token调用数据,使用量从2024年5月1200亿tokens增长253倍至今年9月的超30万亿tokens。
Tokens 是大语言模型用来切割自然语言文本的基本单位,本质反映大语言模型计算量。在推理过程中,token是计算的基本单位,模型对每个token的处理都需要消耗计算资源,处理的token数量越多,计算量会呈平方级增长。
浙商证券指出,字节跳动2024年资本开支达到800亿元,接近百度、阿里、腾讯的总和(1000亿元)。2025年字节跳动资本开支有望达到1600亿元,旨在打造自主可控的大规模数据中心集群,其中约900亿元将用于AI算力的采购,700亿元用于IDC基建以及网络设备如光模块、交换机。字节跳动对未来Token消耗估计较高,预计将持续加大算力投入。
其对豆包大模型带来的算力产业链的GPU/服务器、数据中心设备需求进行了测算。假设2027年日活达到5000万,日均token使用量达到50万亿,为了满足用户需求,在2.5倍峰值token倍数的假设下,2027年算力需求达到1.4E+21 FLOPS,假设未来字节能采购320 TFLOPS的芯片,则需要565.1万个GPU,缺口巨大。
东方证券也指出,在算力端,豆包大模型的性能升级和推理需求的迅猛增长,使得算力建设持续性至关重要。在此背景下,服务器及液冷厂商、PCB厂商等有望受益。此外,数据存力和运力需求的持续攀升,为存储、光模块和光芯片等企业创造了更多的市场机会,促使整个产业链不断优化升级,以满足日益增长的AI算力需求。
公司方面,据华创证券表示,润泽科技、宝信软件、光环新网等有合作。
原创文章,作者:阴阳无极,如若转载,请注明出处:https://www.accstt.com/archives/137963.html 以及“阴阳无极精准规则化交易系统”
转载说明:转载或引用本网内容必须以新闻性或资料性等公共信息为使用目的,不能用于赢利目的。不得对本网内容原意进行曲解和篡改。转载本网内容亦不得损害本网或他人利益,不得进行任何违法活动。对于不当转载或引用本网内容而引起的法律诉讼或任何其他形式的纠纷,阴阳无极
注明:在使用本网原创内容时必须注明“来源: 阴阳无极精准规则化交易系统 ”或“ 阴阳无极精准量化交易系统 ”及文章来源出处。


