訂閱
糾錯(cuò)
加入自媒體

OpenAI又開大!推出GPT-3.5 Turbo“微調(diào)”功能,人人都能定制ChatGPT

OpenAI最近動(dòng)作不斷。上個(gè)月7號(hào),在數(shù)百萬(wàn)開發(fā)者的催促下,OpenAI終于開放了GPT-4的API權(quán)限。沒多久,OpenAI又宣布開放GPT-4的“代碼解釋器”功能,一下子讓GPT-4的能力有了飛躍,所以開發(fā)者們都戲稱它為“GPT-4.5”。

不過(guò)這不算完,OpenAI之前一直在給GPT-4開發(fā)“DLC”(擴(kuò)展包的意思),而對(duì)之前的功臣GPT-3.5有點(diǎn)厚此薄彼了,畢竟和GPT-4比起來(lái),GPT-3.5是不要錢的,也就意味著它的用戶數(shù)量不在少數(shù),只給“氪金”的玩家開放福利,不給“零充”玩家們一點(diǎn)甜頭,那就等著被玩家們討伐吧。

你當(dāng)OpenAI不知道這一點(diǎn)?就在今天OpenAI在官網(wǎng)上宣布,也給GPT-3.5帶來(lái)了升級(jí)包——“微調(diào)”功能。

人人都可定制ChatGPT?

今天,OpenAI 在官網(wǎng)宣布,推出 GPT-3.5Turbo 微調(diào)功能并更新 API,使企業(yè)、開發(fā)人員可以使用自己的數(shù)據(jù),結(jié)合業(yè)務(wù)用例構(gòu)建專屬 ChatGPT。

OpenAI又開大!推出GPT-3.5 Turbo“微調(diào)”功能,人人都能定制ChatGPT

而至于效果,OpenAI表示經(jīng)過(guò)實(shí)際測(cè)試,定制的模型可以趕上甚至超過(guò) GPT-4 執(zhí)行某些任務(wù)的能力。GPT-4用戶感覺到背刺!

并且OpenAI 強(qiáng)調(diào),傳入和傳出微調(diào) API 的數(shù)據(jù)歸客戶所有, OpenAI 或任何其他組織不會(huì)使用這些數(shù)據(jù)來(lái)訓(xùn)練其他模型。

至于微調(diào)后,定制模型會(huì)有性能提升,OpenAI也在“微調(diào)指南”里注明了,比如:

改善可操縱性:

微調(diào)允許企業(yè)引導(dǎo)模型更好地遵循指令,例如輸出更簡(jiǎn)潔的答案,或者始終以給定語(yǔ)言做出響應(yīng)。開發(fā)人員可以通過(guò)微調(diào)保證模型在收到德語(yǔ)提示詞后,始終以德語(yǔ)給出回應(yīng)。

更可靠的輸出格式:

微調(diào)使模型所輸出響應(yīng)結(jié)果的格式更加統(tǒng)一。對(duì)于需要特定響應(yīng)格式的應(yīng)用場(chǎng)景(例如代碼補(bǔ)全或編寫 API 調(diào)用),這種格式可靠性至關(guān)重要。例如,開發(fā)人員可以用微調(diào)將用戶提示詞轉(zhuǎn)換為可在系統(tǒng)中使用的高質(zhì)量 JSON 片段。

自定義調(diào)節(jié):

微調(diào)是提升模型輸出質(zhì)量的好辦法(包括改善語(yǔ)氣、風(fēng)格),更好地適應(yīng)企業(yè)品牌的固有定位。擁有知名品牌調(diào)性的企業(yè)可以對(duì)模型做出微調(diào),使其與自身市場(chǎng)形象更趨一致。

而且微調(diào)不光能提高性能,還能縮短提示詞長(zhǎng)度,并保證性能基本不變。早期測(cè)試人員還對(duì)模型本身的指令進(jìn)行了微調(diào),從而加快了API調(diào)用還降低了成本,讓prompt減少了90%。

此外,微調(diào)可以讓定制的GPT-3.5 Turbo模型處理4k個(gè)tokens,達(dá)到了之前的2倍!并且OpenAI還表示,支持16ktokens的版本將在今年秋季推出。

更強(qiáng)了,也更貴了!

天底下沒有免費(fèi)的午餐。微調(diào)確實(shí)讓GPT-3.5Turbo更強(qiáng)了,但同時(shí)也更貴了。

根據(jù)OpenAI公布的定價(jià),GPT-3.5Turbo的微調(diào)分為兩個(gè)部分,分別為初始訓(xùn)練成本與使用成本:

  • 訓(xùn)練階段:1k tokens 要 0.008 美元

  • 使用輸入:1k tokens 要 0.012 美元

  • 使用輸出:1k tokens 要 0.016 美元

例如,如果要對(duì) 10 萬(wàn) tokens 的訓(xùn)練文件進(jìn)行微調(diào),并訓(xùn)練 3 個(gè) epochs,則預(yù)計(jì)成本為 2.40 美元。

不光是GPT-3.5,GPT-3也更新了!7月的時(shí)候,OpenAI 宣布各初版 GPT-3 基礎(chǔ)模型(ada、babbage、curie 和 davinci)將于 2024 年 1 月 4 日正式關(guān)閉。

同在今天,OpenAI再次更新GPT-3模型,并提供了babbage-002和davinci-002作為以上模型替代品,可以作為基礎(chǔ)模型或微調(diào)模型來(lái)使用。

客戶也可以通過(guò)查詢Completions API來(lái)訪問這些模型。

另外,這些模型使用新的API端口/v1/fine_tuning/jobs進(jìn)行微調(diào)。

該端口取代了/v1/fine-tunes舊端口(2024年1月4日關(guān)閉),提供了分頁(yè)和更多可擴(kuò)展性,以支持微調(diào)API的未來(lái)發(fā)展。

下面是各基礎(chǔ) / 微調(diào) GPT-3 模型的定價(jià):

OpenAI又開大!推出GPT-3.5 Turbo“微調(diào)”功能,人人都能定制ChatGPT

根據(jù)這個(gè)價(jià)格算筆賬,微調(diào)后的GPT-3.5 Turbo價(jià)格是基礎(chǔ)GPT-3.5 模型的8倍!

GPT-4也有微調(diào)!

GPT-4用戶感覺到背刺了?那倒也不必,因?yàn)镺penAI在公告中表示,AI天花板GPT-4的微調(diào)馬上也會(huì)來(lái)的,幾個(gè)月后正式上線!

而且在對(duì)GPT-3.5 Turbo微調(diào)時(shí),所有微調(diào)數(shù)據(jù)都必須通過(guò)“審核”API 和 GPT-4 支持的審核系統(tǒng),以查看是否與 OpenAI 的安全標(biāo)準(zhǔn)相沖突。OpenAI 還計(jì)劃在未來(lái)推出一個(gè)微調(diào) UI,其中包含一個(gè)儀表板,用于檢查正在進(jìn)行的微調(diào)工作負(fù)載的狀態(tài)。

GPT-3.5的微調(diào)價(jià)格已經(jīng)是之前的8倍了,那GPT-4微調(diào)會(huì)貴多少呢?再加上GPT-4本身就是付費(fèi)使用,價(jià)格再上漲一點(diǎn),對(duì)個(gè)人和企業(yè)來(lái)說(shuō)都是一筆不小的費(fèi)用,會(huì)不會(huì)受到人們歡迎還未可知。

聲明: 本網(wǎng)站所刊載信息,不代表OFweek觀點(diǎn)?帽菊靖寮,務(wù)經(jīng)書面授權(quán)。未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制、翻譯及建立鏡像,違者將依法追究法律責(zé)任。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號(hào)
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯(cuò)
x
*文字標(biāo)題:
*糾錯(cuò)內(nèi)容:
聯(lián)系郵箱:
*驗(yàn) 證 碼:

粵公網(wǎng)安備 44030502002758號(hào)