• 正文
  • 相關推薦
申請入駐 產業(yè)圖譜

制約AI應用生態(tài)的最大瓶頸在哪?

04/07 10:50
463
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

上周看到一個有趣的消息,關于99元的AI玩具。

AI玩具現在就像是七八點鐘的太陽,各路大軍紛紛涌入,各種產品琳瑯滿目。

大部分都是面向兒童教育和陪伴的小東西。

當然也有一些面向成年人的玩具。

國產芯片公司里面,MCU藍牙、WIFI類的公司,平板處理器類的公司,還有大量的模組公司,正在摩拳擦掌,準備爭搶這個早期藍海市場。

這些是配套大模型智能硬件,還有大量配套大模型的軟件,比如有大模型平臺已經開出了應用商店。

理論上說,無論是AI智能硬件,還是APP軟件,都是在大模型外面套上一層外衣,也就是所謂的“套殼”應用。

當我了解了大模型的收費機制,我的發(fā)現是,所有的AI應用,無論硬件軟件,不過就是大模型的代理商?,F在幾乎所有商用的大模型,都是在背后默默開啟收費策略,比如火山引擎下的扣子智能硬件方案的收費是這樣的(據說是國內最低)。

不管是大語言模型,還是音視頻,還是知識庫,都是持續(xù)收費,而且是通過Token收費的。

什么是Token?

我相信,在大街上你問100個人什么是Token,可能最多只有1-2個人可能知道,但也說不清楚,這個概念實在是太專業(yè)了。

模型服務用量的一個重要概念是 token。在調用模型推理服務時,會將輸入內容進行分詞(tokenize),轉化為模型可以理解的 token ,經過模型處理后,同樣輸出 token,并轉化為您需要的文本或者其他內容載體。而模型處理(包括輸入、輸出)的 token 數量會被作為模型推理服務用量的一個重要計量單位。

如語言大模型推理服務費用的一種較為常見的計算方式如下:

費用 = token 使用數量 * token 單價

由于不同模型采用的分詞策略不同,同一段文本可能會被轉化為不同數量的 token。

您可以使用Token計算器或者分詞 API接口,來估算內容對應的 token 數量。

由此對于時下火爆的AI智能玩具,我產生了很大的疑問,即大模型在背后持續(xù)收費的話,現在火爆賣出去的 AI玩具如何平衡后期運營成本?

只要客戶一直用下去,勢必會持續(xù)消耗Token,那么就會產生費用,這個費用是用戶出還是玩具商出?是否用戶還要繳納月租費之類的使用費用?

目前國外一些高端的AI玩具,確實不但售價高昂,而且還需要繳納不菲的月租費,這肯定不是99元玩具的用戶能夠接受的。

內容創(chuàng)業(yè)領域任何新事物誕生的時候,商業(yè)模式都需要一段時間的迭代創(chuàng)新,最終形成大家(平臺、開發(fā)者、用戶)都能接受的模式。

互聯(lián)網提供了很多借鑒案例。

中國第一代互聯(lián)網開始的時候,最早的創(chuàng)業(yè)公司是做ISP(互聯(lián)網接入)業(yè)務的,當時最NB的公司是瀛海威,收費按照分鐘+流量計費,互聯(lián)網應用寥寥無幾,五年之后電信寬帶開始走入家庭,采取的是包月不限流量的方式,互聯(lián)網生態(tài)開始四面開花,風起云涌。

手機上網最早的計費方式,是3分錢/MB,后來逐漸被便宜的包月套餐所取代,于是手機短視頻終于有機會崛起了。

早期的網絡游戲,采取的是點卡收費(也是按分鐘計費),我們知道的傳奇、大話西游、魔獸世界這些經典網游都是要在線下網吧買點卡的,當然后來盛大搞出了免費道具模式,改變商業(yè)模式之后,整個網游行業(yè)迎來了大發(fā)展。

眼下的智能AI生態(tài),是由平臺(大模型)、開發(fā)者和用戶組成,平臺急著收錢,可能不利于整個生態(tài)的形成,就會使蛋糕做不大,這是個格局問題。

按照Token收費,實際上屬于成本定價法,而不是以供需定價,這里面存在一些問題:

1、Token作為計費單位的概念不清晰

作為一個技術名詞,大部分人無法理解其計費邏輯。

2、Token的消耗不可控

各個大模型的技術差異,會導致每個操作消耗的Token差異很大。比如寫個文章,有時候消耗幾千,有時候就要消耗幾萬,用戶也無法審計為什么大模型要收這么多。

不同大模型平臺對token的定義和計量標準并不一致。例如,有的平臺1token等于1個漢字,有的則為1.5或1.8個漢字。這種差異可能導致用戶在跨平臺使用時難以比較準確費用。

Token計費主要基于數量,而無法完全反映文本的復雜性。例如,處理一個包含專業(yè)術語的短句可能比處理一個簡單的長句需要更多的計算資源。

3、脫離市場需求和競爭

成本定價法主要關注成本,而忽略了市場需求和競爭環(huán)境。成本定價法通常假設成本和需求是固定的,但實際上市場需求和成本會隨著市場環(huán)境的變化而變化。這種方法難以根據市場動態(tài)靈活調整價格,缺乏應對市場變化的能力。

4、限制了生態(tài)的形成

平臺希望能夠建立起一個開發(fā)者生態(tài)系統(tǒng),持續(xù)地創(chuàng)造內容給用戶,但是收費模式會限制市場天花板的高度,這樣的話蛋糕做不大,最終平臺也會消亡。

開源大模型起來的話,勢必可能摒棄成本定價法甚至免費,收費模型的商業(yè)模式很可能被迅速顛覆。

無法壟斷的收費模式是脆弱的。

總的來看,我感覺現在還處于AI商業(yè)化的史前時代,必然有公司會用商業(yè)模式的創(chuàng)新來引爆市場,這時候應用創(chuàng)新會真正走向大眾市場。

相關推薦