• 正文
  • 相关推荐
申请入驻 产业图谱

Token的收费模式恐怕行不通

06/02 19:03
302
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

最近硅谷爆出了很多关于Token收费的猛料,比如Uber的全年预算提早花完,Meta内部搞的token消耗排行榜,某公司手滑花掉了5亿美元的token,之类的新闻还会越来越多。

当下所有的AI应用,无论硬件软件,不过就是大模型的代理商。现在几乎所有商用的大模型,都已经开启收费策略。顶级代表的就是OpenAI、Claude的200美元月套餐。

不管是大语言模型,还是音视频,还是知识库,都是持续收费,而且是通过Token收费的。

什么是Token?

我相信,在大街上你问100个人什么是Token,可能最多只有1-2个人可能知道,但也说不清楚,这个概念实在是太专业了。

模型服务用量的一个重要概念是 token。在调用模型推理服务时,会将输入内容进行分词(tokenize),转化为模型可以理解的 token ,经过模型处理后,同样输出 token,并转化为您需要的文本或者其他内容载体。而模型处理(包括输入、输出)的 token 数量会被作为模型推理服务用量的一个重要计量单位。

如语言大模型推理服务费用的一种较为常见的计算方式如下:

费用 = token 使用数量 * token 单价

由于不同模型采用的分词策略不同,同一段文本可能会被转化为不同数量的 token。

您可以使用Token计算器或者分词 API接口,来估算内容对应的 token 数量。

只要客户一直用下去,势必会持续消耗Token,那么就会产生费用。

内容创业领域任何新事物诞生的时候,商业模式都需要一段时间的迭代创新,最终形成大家(平台、开发者、用户)都能接受的模式。

互联网提供了很多借鉴案例。

中国第一代互联网开始的时候,最早的创业公司是做ISP(互联网接入)业务的,当时最NB的公司是瀛海威,收费按照分钟+流量计费,互联网应用寥寥无几,五年之后电信宽带开始走入家庭,采取的是包月不限流量的方式,互联网生态开始四面开花,风起云涌。

手机上网最早的计费方式,是3分钱/MB,后来逐渐被便宜的包月套餐所取代,于是手机短视频终于有机会崛起了。

早期的网络游戏,采取的是点卡收费(也是按分钟计费),我们知道的传奇、大话西游、魔兽世界这些经典网游都是要在线下网吧买点卡的,当然后来盛大搞出了免费道具模式,改变商业模式之后,整个网游行业迎来了大发展。

眼下的智能AI生态,是由平台(大模型)、开发者和用户组成,平台急着收钱,可能不利于整个生态的形成,就会使蛋糕做不大,这是个格局问题。

按照Token收费,实际上属于成本定价法,而不是以供需定价,这里面存在一些问题:

1、Token作为计费单位的概念不清晰

作为一个技术名词,大部分人无法理解其计费逻辑。

2、Token的消耗不可控

各个大模型的技术差异,会导致每个操作消耗的Token差异很大。比如写个文章,有时候消耗几千,有时候就要消耗几万,用户也无法审计为什么大模型要收这么多。

不同大模型平台对token的定义和计量标准并不一致。例如,有的平台1token等于1个汉字,有的则为1.5或1.8个汉字。这种差异可能导致用户在跨平台使用时难以比较准确费用。

Token计费主要基于数量,而无法完全反映文本的复杂性。例如,处理一个包含专业术语的短句可能比处理一个简单的长句需要更多的计算资源。

3、脱离市场需求和竞争

成本定价法主要关注成本,而忽略了市场需求和竞争环境。成本定价法通常假设成本和需求是固定的,但实际上市场需求和成本会随着市场环境的变化而变化。这种方法难以根据市场动态灵活调整价格,缺乏应对市场变化的能力。

4、限制了生态的形成

平台希望能够建立起一个开发者生态系统,持续地创造内容给用户,但是收费模式会限制市场天花板的高度,这样的话蛋糕做不大,最终平台也会消亡。

开源大模型起来的话,势必可能摒弃成本定价法甚至免费,收费模型的商业模式很可能被迅速颠覆。

无法垄断的收费模式是脆弱的,成本定价法必死无疑。

总的来看,我感觉现在还处于AI商业化的史前时代,Token计费模式可能只不过是AI发展路上的过渡阶段,必然有公司会用商业模式的创新来引爆市场,这时候应用创新会真正走向大众市场。

相关推荐