隔夜,OpenAI迎來重磅更新和降價!
(資料圖片)
當地時間6月13日,OpenAI官網宣布“更新更可調的API模型、函數調用功能(Function calling)、更長的上下文和更低的價格”,發(fā)布更高效更低成本的版本。
其中最重磅的更新是函數調用能力。
據OpenAI介紹,開發(fā)者現在可以向gpt-4-0613和gpt-3.5-turbo-0613兩個模型描述函數,并讓模型智能地選擇輸出一個包含參數的JSON(JavaScript Object Notation,一種數據交換的文本格式)對象,來調用這些函數。若將GPT功能與外部工具或API進行連接,這種方法更加可靠。
在英偉達首席科學家Jim Fan看來,函數調用=更好利用API工具=更強大的LLM與數字執(zhí)行器(Digital Actuator)。
簡單來說,GPT不再需要開發(fā)者描述復雜的提示語,它自己能夠決定是否動用外部工具來解決問題,不僅顯著提高了反應速度,還大大降低了出錯的可能性。
比如,如果用戶問GPT:今天的天氣如何,它會自動調用第三方天氣API,檢索相關數據并做出準確回答。
大幅降價也令開發(fā)員為之歡呼。
官網公告顯示,不同版本降價幅度不同,OpenAI最先進、用戶最多的嵌入模型Text-embedding-ada-002降價75%;用戶最多的聊天模型gpt-3.5-turbo降價25%。
此外,OpenAI還推出了gpt4-16k平替版——gpt-3.5-turbo-16k,價格為每輸入1000 tokens 0.003美元,相當于降價95%!
值得注意的是,gpt-3.5-turbo-16k能夠實現16000 tokens的上下文長度,相當于普通版gpt-3.5-turbo的4倍。而在價格方面,gpt-3.5-turbo-16k只是gpt-3.5-turbo的兩倍。
不過,該模型一次只能讀取大約20頁的文本,明顯低于AI初創(chuàng)公司Anthropic的旗艦模型,該模型可以處理數百頁文本。
也與此同時,OpenAI宣布,未來幾周內將邀請更多人試用GPT-4。
眾所周知,開發(fā)像ChatGPT這樣的大語言模型成本巨大,如今OpenAI在升級模型的同時大幅降價,底氣何在?
當地時間周二,OpenAI 首席執(zhí)行官 Sam Altman在新加坡管理大學演講時表示,OpenAI 每三個月左右就能將推理成本降低90%。
我們希望不斷降低情報成本。我們希望讓這些東西變得非常便宜,便宜到你根本不需要猶豫。
“我們計劃在未來繼續(xù)大幅削減成本。我們必須不斷取得研究突破,才能做到這一點,”他補充說。
Altman還表示:
我們擁有足夠復雜的語言(模型)和足夠強大的計算機,我們可以讓AI越來越大。
我們將使模型更有效率。我們要創(chuàng)造更多籌碼。我認為這顯然是世界想要的,市場也會提供。
本文不構成個人投資建議,不代表平臺觀點,市場有風險,投資需謹慎,請獨立判斷和決策。
關鍵詞: