上週,百度推出了最新的LLM——Ernie 4.0 Turbo,引發了與微軟公司OpenAI的GPT-4模型、阿里巴巴等公司的價格競爭。 [1]
百度對 Ernie 4.0 Turbo 的定價為每 100 萬個輸入標記(tokens) 30 人民幣(4.13 美元),每 100 萬個輸出標記(tokens) 60 人民幣。
該公司還宣布,Ernie 的早期版本將降價高達 83%。
百度 Ernie 4.0 Turbo 定價:按標記計費,輸入輸出有差異
在大型語言模型(LLM)(例如百度的 Ernie 4.0 Turbo)的背景下,標記(tokens)是指模型訓練和處理的文本單元。
這些標記可以是單字、字符,甚至是子單字單元。
標記化的具體選擇取決於LLM架構和訓練資料。
以下是 Ernie 4.0 Turbo 代幣如何發揮作用的詳細說明:
- 輸入標記(Input Tokens):當您向 Ernie 4.0 Turbo 提供文字作為輸入時,模型會將其分解為標記。這可能是單字、字元(characters),甚至更小的單字片段,這取決於百度選擇的方法。
- 處理(Processing):然後,模型分析標記序列以理解輸入的含義並產生回應。
- 輸出標記(Output Tokens):產生的回應也表示為標記序列,然後將其組裝回人類可讀的文字。
百度對 Ernie 4.0 Turbo 的定價結構是基於模型處理的標記(tokens)數量。
他們對輸入文字中的每 100 萬個 標記(tokens)收取 30 人民幣的費用(4.13 美元)對產生的輸出中的每 100 萬個 標記(tokens)收取 60 人民幣(8.26 美元)的費用。
相比之下,OpenAI 的 GPT-4 模型的定價為每 100 萬個 輸入標記(tokens)收取 5 美元,每 100 萬個輸出標記(tokens) 收取15 美元。
該公司還宣布,Ernie 的早期版本也將降價高達 83%。
我希望這能澄清標記(tokens)的概念以及它們與百度 Ernie 4.0 Turbo 定價的關係!