近期相关数据平台显示，中国大型人工智能模型每周调用次数连续第三周超过美国。这背后的计量单位是科技界一个流行的新词：“代币”。什么是代币？它与大规模模型、计算能力、甚至电力有什么关系？央视科技记者张春玲一一分析。最近，科技界流行了一个新词：“通证”。 3月24日，国家数据管理局在官方声明中首次提及“辞源”通证的中文翻译。简单来说，代币是大规模人工智能模型中处理信息的基本单位。我们以单词为单位进行阅读和写作。对于大型模型，输入和输出单位是令牌。从人工智能的角度来看，一个token可以是一个汉字或单词的十分之一，也可以是一个标点符号、一个麻木的符号。呃，或者一个符号。就像AI时代的手机流量一样。每个人工智能模型制造商都提供自己的代币，并根据用户的使用情况收费。近几个月来，“蝗虫”智能代理的流行导致全球代币调用量出现新一轮激增。与以往最大的不同在于，这一次，中国大规模AI模型代币调用数量历史上首次超过美国。为什么世界各地都使用中国代币？主要原因是其高品质和低价格。你应该知道代币不是凭空产生的。它是高性能GPU在消耗大量电力并完成千亿次推理运算后产生的数字资产。每个人生成的ken对应一个真实的推理过程、真实的能量消耗和计算的能量消耗。中国顶级模型公司能够降低代币价格的主要原因如下：一是我们公司的实力更胜一筹。中国拥有较为完善的电力基础设施和技术体系，特别是西部地区，拥有丰富的新能源和绿色能源，与计算能力和数据中心中心相结合，直接将能源转化为AI时代的新服务能力。我正在做。近年来，中国科技企业在推理芯片、模型架构、系统优化等方面不断取得进展。这意味着，在面对同样的问题时，中国的大规模模型往往能够以更少的算力、更少的延迟和更高的能效计算出答案。有人说Token将成为AI时代新的能源单位。中国电力、中国算力正在以全新的方式参与全球竞争。 （央视制片人张春玲、李军）
今日看料
Website: http://www.shuguangtong.com
Leave a Reply