
/OpenAI
而微調收費方式也依使用的模型而異。若使用GPT-4o mini(2024-07-18),從提示輸入的費用為每輸入100萬字符為0.3美元,每輸出100萬字符則為1.2美元。若從Batch API輸入,則分別為0.15美元和0.6美元。
OpenAI指出,使用API微調模型,可允許用戶輸入更多的訓練範例,可提升GPT-4o mini模型生成結果的品質,而且由於用戶不需使用那麼長的提示,將能節省字符(及成本),延遲性也更低。OpenAI補充,微調工具可提升「few-shot learning」的效果。
所謂「few-shot learning」,是指利用範例告訴模型要如何執行任務。OpenAI說其文字生成模型原本已經在大量文字上預訓練,但為了讓模型更好用,他們又在提示中加入指令,偶爾也有一些範例,已經使用「few-shot learning」手法,今日啟用的微調功能,允許用戶提供大於提示的範例,因而提升了這類學習方法的效果。
GPT-4o-mini上周公布後,ChatGPT免費版、Plus、Team方案用戶已經可存取GPT-4o mini,取代GPT-3.5。下周Enterprise方案用戶也可開始存取。GPT-4o mini具備128K字符的context window,一次呼叫支援最多16K輸出字符,訓練資料集已更新到2023年10月。OpenAI宣稱GPT-4o mini理解能力超越Claude Haiku、Gemini Flash,它最終會和GPT-4o一樣具備多模能力,支援文字、圖片、影音輸入/輸出功能,目前GPT-4o mini僅在API支援文字和視覺。