开云体育

开云体育

中国开云体育一站式服务入口 “Token”有了中语名“词元”, 那么Token(词元)到底是什么

发布日期:2026-05-24 20:44 来源:未知 作者:admin 浏览次数:

中国开云体育一站式服务入口 “Token”有了中语名“词元”, 那么Token(词元)到底是什么

在不久前举行的中国发展高层论坛年会上,国度数据局局长刘烈宏给一个东说念主工智能边界的中枢主见Token赋予了中语名——词元。那么,Token(词元)到底是什么?东说念主工智能和数据产业的异日会若何?请听中国工程院院士王坚在央视财经频说念“中国经济大讲堂”上的解读。

中国工程院院士王坚。(贵府图片)

『大模子处理文本的最小单元』

东说念主类发展的速率十分快,之前是信息期间,很快又投入了AI期间。但是,在很万古期里,咱们并莫得把信息和数据进行很好的划分。咱们往常讲的比特、字节齐是信息的计量单元,在很万古期里咱们也用这些计量单元来规画数据。而Token(词元)这一主见的出现,使数据有了明确的计量单元。这是把数据和信息划分开来的一个十分进攻的分水岭。

Token(词元)是大模子意会、处理、生成信息的最小单元。打个譬如,在往常的信息边界,一般情况下咱们是用两个字节抒发一个汉字,是以,若是要抒发“我可爱你”,加起来便是8个字节。而在AI模子中,如何把“我可爱你”这4个字拆成最小的数据单元呢?按照咱们的意会,“我”是一个最小的单元,“可爱”是一个最小的单元,“你”是一个最小的单元。但是从Token的角度来看并不是这样,“我可爱”可能是一个最小的单元,那么“我可爱你”就变成了两个Token。在许多场景中,它跟咱们平时的教育是不一致的。是以,Token(词元)是以它我方的花式组合、供模子处理信息的最小基础单元,它更像是一个“词块”,不错是一个无缺的词、一个常见短语,以至是一个标点瑰丽或特殊字符。

同期,Token(词元)亦然AI边界的计量单元。用平庸的话来说,Token(词元)这个主见像咱们平时讲的斤、两之类的计量单元。而且,就像生存中一斤肉比一斤青菜贵相同,不同的Token(词元)也有不同的价值。若是一种Token(词元)背后消耗的资源比较多、生成比较复杂,那么它自身就比较有价值,可能这种Token(词元)就会贵一些。是以,Token(词元)不成简便地等同于货币,它是数据的通用计量单元。

Token(词元)在东说念主工智能边界被公共所意志,是因为2017年发表的一篇著作《你所需要的仅仅提神力》。这篇著作由谷歌的8位科学家创作,其中淡薄的Transformer架组成为东说念主工智能模子的基石,同期也淡薄了Token(词元)这个主见。Token(词元)的出现,意味着数据有了我方的“东说念主格”,数据有了我方独处的身份。也便是说,任何数据若是莫得Token(词元)的身份,就进不了东说念主工智能模子。

咱们平时使用的普通的数据,也称为原始数据。东说念主工智能模子使用原始数据之前,率先必须把总计的数据Token(词元)化。咱们不错把模子意会成一个“笔墨翻译器”,但它并不像东说念主类那样径直意会句子或段落,它必须先将输入的笔墨切分红一个个小块,然后给每个小块分拨一个唯独的数字ID,再把这些数字交给神经网罗进行规画。这些被切分出来的“小块”,便是Token(词元)。它既不是英文里的单词,也不是中语里的字,它是以它我方的花式组合的最小单元。

东说念主工智能模子的驱动逻辑,便是找到不同Token(词元)之间的关系。试念念一下,要历练一个大谈话模子,可能要用上亿个Token(词元),是以就要找准它们之间的关系,何况很好地在模子中抒发出来。当大模子与某个利用合伙时,比如你向大模子发问,它就会在算力“算”完后输出相应的Token(词元)行为谜底。

总之,Token(词元)是大模子处理文本的最小单元,它详细响应了数据的价值以及模子的强横、算力的些许,是以,Token(词元)是AI系统驱动的中枢。

(视觉中国供图)

『标志着数据成分商场的开启』

在东说念主工智能大模子边界,Token(词元)是量度算力与本钱的计量单元,因此它具有可计量、可订价、可交游的特征。

HG真人游戏官方网站

在Token(词元)出现之前,数据的价值很难界定。但跟着东说念主工智能的发展,原始数据变成了Token(词元),Token(词元)通过大模子以一定的花式进行通顺,并向那些利用东说念主工智能的消费者收取一定的用度。不错说,Token(词元)使数据自身完成了丽都转型。

若是莫得基本的计量单元,是不可能造成一个新兴产业的。打个譬如,你跑到菜商场去买菜,若是莫得计量单元,称不出几斤几两,这个菜商场就不竖立。卖鱼的、卖肉的、卖鸡鸭的齐莫得和洽的计量单元,那是难以造成一定的经济边界的。这亦然往常数据成分商场一直莫得竖立起来的主要原因。

因此,Token(词元)的出现,事实上标志着数据成分商场的开启。这是一件具有深切真理的事情。咱们知说念,一个东西在商场上通顺时,它会经过许多东说念主的手,每次过手的时候,它齐要作念一次结算。有了Token(词元)这样一个可计量、可计价的单元,就意味着总计的数据在通顺经过中不错自动结算,这将使产业链的本钱大大裁减,通顺速率大大加速,并成为东说念主工智能产业营业化的进攻旅途。将来,当一个企业为另一个企业分娩Token(词元)时,它们在网罗上不错粗豪完成交游,因此,数据成分商场将比其他成分商场愈加高效。

莫得任何一家企业是不错不和分娩成分商场打交说念的。是以,咱们一定要把Token(词元)放到数据成分商场的布景下,而不是简便地放到东说念主工智能的布景下去意会。

我认为,新的数据成分商场的出现,对改进型企业、中小企业、初创企业可能会愈加友好。因为,大多数传统企业会更多享受传统成分商场的克己,而对新的数据成分商场可能会有一定的惰性。是以,这是企业改进发展的一个最佳的时机。

从数据成分商场的角度来说,它还将故意于数据和算力的全球通顺。比如,你今天拿入部属手机到南好意思一个场所利用了AI,这就意味着Token(词元)从中国到了南好意思。若是一个南好意思的开导者用中国的模子开导了利用,并向南好意思消费者提供处事的话,当然而然Token(词元)就通顺到了南好意思。是以,当东说念主工智能平台处事全球的时候,Token(词元)就变成了一种结算花式。

此前,许多东说念主对东说念主工智能的矜恤大多停留在大模子的工夫竞速上,而Token(词元)的价值显现正在把一场深层的产业变革带到总计东说念主的眼前,它不仅响应在工夫层面,更将重构总计这个词行业、总计这个词产业的本钱结构、营业模式和相助花式,继而全面影响东说念主们的生存。

『“小龙虾”片刻爆火的背后』

2026年1月底,一款名为OpenClaw(昵称“小龙虾”)的开源AI智能体片刻爆火,从工夫圈马上席卷全网,开启了全民“养虾”期间。这款以卡通小龙虾为Logo的智能体,绝对冲破了传统AI只会聊天、不会干活的局限,凭借感知、方案、履行的闭环能力和24小时自主驱动,成为概况承袭辅导、调用用具、读写文献、履行剧本的全功能数字助手。

但是,果然用过“小龙虾”的开导者和用户齐知说念一个痛点:Token(词元)消耗太猛了。一个看似简便的查询,就能消耗几十万Token(词元),中国开云体育一站式服务入口从而让消费者收到超出念念象的高额账单。

其实,在往常几年,东说念主工智能的背后依然有Token(词元)的主见了。东说念主们使用豆包或千问时,你问一句,它答一句,Token(词元)的消费量没那么大,也便是说算力的消费量没那么大,是以公众不错免费使用豆包或千问。

但是,像“小龙虾”之类的利用,意味着东说念主工智能发展到了一定水平,它对数据的需求大大增多。为什么此次“小龙虾”的出现会引爆Token(词元)这个主见呢?因为“小龙虾”的Token(词元)消耗不是按需触发,而是抓续产生的,是以其消费的Token(词元)量大大超出了原来那些东说念主工智能的利用,从而导致使用者需要为消耗的巨量Token(词元)支付账单。“小龙虾”在骨子上与其他的东说念主工智能利用比较,由于Token(词元)调用量终点大,才使这个问题暴显现来。

无异常偶,2026年3月25日,好意思国东说念主工智能公司OpenAI告示隔断旗下AI视频生成模子Sora总计的处事与运营。事实上,自2024年2月初次亮相以来,Sora在约25个月的运营时期里,利用法子的总收入仅约210万好意思元。而据福布斯测算,Sora样式年化运营本钱高达50多亿好意思元。逐日数亿级的Token(词元)消耗,让即使获取了大量投资的OpenAI仍感不胜重任,只可忍痛将其关停。像Sora这样的事件,恰是因为生成视频需要花消比公共念念象多得多的Token(词元),驱散,花消那么多Token(词元)生成的视频的价值还抵不外Token(词元)自身的价值,是以营业逻辑无法竖立。

AI大模子出现以后,公共一直有这样一个困惑的问题:到底用什么体式、什么圭表来使用东说念主工智能模子呢?这在往常是一个问题。而“小龙虾”的出现,施展东说念主工智能有它我方异常的利用花式。比如,“小龙虾”把往常App的主见颠覆了,使用东说念主工智能利用不需要再去装一个个App。一个“小龙虾”现实上作念了往常十几个、二十几个App作念的事情。不错说,“小龙虾”的形态和构建花式与东说念主工智能是相匹配的。

跟着“小龙虾”从小众用具成为内行利用,国度互联网救急中心与中国网罗空间安全协会于2026年3月发布了《OpenClaw安全使用实践指南》,面向普通用户、企业用户、云处事商以及工夫开导者等淡薄安全驻扎建议,为这一新兴生态系上“安全带”。

『Token爆发式增长意味着什么』

国度数据局局长刘烈宏在本年3月24日国务院新闻办举行的新闻发布会上公布了一组令东说念主惊怖的数据:2024岁首,中国日均Token(词元)调用量为1000亿,至2025年底该数据跃升至100万亿,到本年3月依然突破140万亿。两年间,增前程步1000倍。

Token(词元)的爆发式增长意味着什么?

率先,意味着东说念主工智能利用自身发生了质的变化。

在软件期间,一个软件有些许行代码,基本上代表了这个软件的复杂度,也便是它的价值。今天,当咱们用AI模子的时候,Token(词元)就会产生通顺,这个通顺既夸耀出原来历练模子时所消耗的算力,同期也夸耀出其自身驱动需要消耗的算力。是以,Token(词元)的消费量激增,代表东说念主工智能利用发展到了一个新的水平。

拿电来打譬如。早期的时候,家里只须一个电灯,只用少量点电,其后有了雪柜、洗衣机、空调,用电量大增,这代表了生流水平的提高,也施展电对社会生存和经济的影响。Token(词元)的爆发式增长亦然相同,这是一个十分可喜的开阔变化。是以说,Token(词元)的消耗量是东说念主工智能期间的标尺。

其次,意味着东说念主工智能在中国的发展到了一个十分进攻的拐点。在国内,开导、使用东说念主工智能的东说念主越来越多,每个东说念主使用的量也越来越多。日均Token(词元)调用量的大量增多,充分标明中国的东说念主工智能发展依然投入了快速增长的阶段。从能对话的谈话大模子到能方案履行的智能体,跟着利用场景的抑制深化,中国东说念主工智能产业的竞争力也权臣增强。

另外,需要指出的是,Token(词元)的爆发式增长是需要强盛的物资基础来因循的,因此,单个Token(词元)的本钱一定要裁减。公共设念念一下,若是用电本钱不降到富余低的话,老匹夫是不可能无边使用空调的。而单元Token(词元)本钱的裁减,除了进一步晋升东说念主工智能工夫、算力工夫外,还需要抑制考订东说念主工智能模子的利用。这就像早年咱们用白炽灯,大部分的电齐被热量消耗掉了,是以目下咱们无边使用节能灯。我肯定异日的东说念主工智能利用也会抑制考订,尽量物化Token(词元)的消费量,这是一个抑制迭代、抑制发展的经过。

『一种新经济模式可能会出现』

在信息期间,软件在很长一段时期里不知说念若何才能挣钱。在微软公司出现之前,软件仅仅硬件的从属,是以软件产业一直莫得发展起来,直到微软公司成为第一家挣钱的软件企业。是以今天,咱们不成用静态的花式来看待东说念主工智能,因为这是一个变革性的产业,就像当年软件产业片刻降生并马上发展那样,可能东说念主工智能产业的发展也会出现这样的场合。

我认为,东说念主工智能的变革将远远超出之前总计工夫带来的变革,这可能是自东说念主类发明电以来最大的一次变革。公共念念一下,自从发明电以后,产生了些许产业,产生了些许不同的工业门类,东说念主工智能也会有那么大的能量。

以“小龙虾”为例,它骨子上使咱们的职责花式发生了一次很大的改动。以前咱们浅薄讲,要提高职责驱散或者改动职责花式,而以“小龙虾”为代表的智能体的出现,以至改动了职责自身,简直每一项职责齐会濒临大的变化。

这里需要强调的是,“智能体”这个词的翻译不太准确,其实它蓝本的真理是“代理”,翻译成“智能代理”应该更符合。从这个角度来看,将来会出现各式各类不同的“智能代理”,比如“旅行代理”“看病代理”等,不错匡助咱们处置生存中方方面面的问题。

设念念一下,咱们的职责有些许单干,将来就会出现些许不同体式的职责代理。“小龙虾”仅仅其中的一种代理良友。但是故真理的是,“小龙虾”完成的一部单干作是以前莫得东说念主作念过的。若是你用过“小龙虾”就会发现,以前莫得东说念主会把我方总计硬盘上的东西齐看一遍,把我方几十年的像片齐看一遍,但“小龙虾”不错作念到,只须它合计这件事跟职责是相量度的。是以我认为,将来“智能代理”会完成一些莫得东说念主作念过的职责。这样的话,一种新的经济模式可能会出现。

一言以蔽之,Token(词元)在东说念主工智能期间是一个十分要津的主见,它与工夫、营业、利用以及产业发展齐痛痒相干。但愿公共概况了解Token(词元),用好咱们手里十分矜重的资源——数据资源。

栏目主编:龚丹韵笔墨裁剪:徐蓓中国开云体育一站式服务入口