上週，百度推出了最新的LLM——Ernie 4.0 Turbo，引發了與微軟公司OpenAI的GPT-4模型、阿里巴巴等公司的價格競爭。 [1]
百度對 Ernie 4.0 Turbo 的定價為每 100 萬個輸入標記（tokens） 30 人民幣（4.13 美元），每 100 萬個輸出標記（tokens） 60 人民幣。
該公司還宣布，Ernie 的早期版本將降價高達 83%。
百度 Ernie 4.0 Turbo 定價：按標記計費，輸入輸出有差異
在大型語言模型（LLM）（例如百度的 Ernie 4.0 Turbo）的背景下，標記（tokens）是指模型訓練和處理的文本單元。
這些標記可以是單字、字符，甚至是子單字單元。
標記化的具體選擇取決於LLM架構和訓練資料。
以下是 Ernie 4.0 Turbo 代幣如何發揮作用的詳細說明：
- 輸入標記（Input Tokens）：當您向 Ernie 4.0 Turbo 提供文字作為輸入時，模型會將其分解為標記。這可能是單字、字元（characters），甚至更小的單字片段，這取決於百度選擇的方法。
- 處理（Processing）：然後，模型分析標記序列以理解輸入的含義並產生回應。
- 輸出標記（Output Tokens）：產生的回應也表示為標記序列，然後將其組裝回人類可讀的文字。
百度對 Ernie 4.0 Turbo 的定價結構是基於模型處理的標記（tokens）數量。
他們對輸入文字中的每 100 萬個 標記（tokens）收取 30 人民幣的費用（4.13 美元）對產生的輸出中的每 100 萬個 標記（tokens）收取 60 人民幣（8.26 美元）的費用。
相比之下，OpenAI 的 GPT-4 模型的定價為每 100 萬個 輸入標記（tokens）收取 5 美元，每 100 萬個輸出標記（tokens） 收取15 美元。
該公司還宣布，Ernie 的早期版本也將降價高達 83%。
我希望這能澄清標記（tokens）的概念以及它們與百度 Ernie 4.0 Turbo 定價的關係！
No comments:
Post a Comment