99在线精品视频高潮喷吹网站_艾草无码视频网站_2023国产区精华品_18禁片无遮挡免_鲁丝一区鲁丝二区鲁丝去

當(dāng)前位置: 首頁 >  綜合 > 正文

全球滾動(dòng):最新!OpenAI掌門人分享未來產(chǎn)品路線圖:GPT-4會(huì)更快、更便宜

2023-06-01 19:12:19 來源:騰訊網(wǎng)

最新!OpenAI掌門人分享未來產(chǎn)品路線圖:GPT-4會(huì)更快、更便宜

騰訊科技訊 6月1日消息,機(jī)器學(xué)習(xí)和人工智能初創(chuàng)公司Humanloop首席執(zhí)行官拉扎·哈比比(Raza Habib)最近邀請(qǐng)人工智能研究公司OpenAI首席執(zhí)行官薩姆·奧特曼(Sam Altman)以及其他20多位開發(fā)者,共同探討了人工智能的未來。奧特曼非常坦率地分享了OpenAI未來兩年的產(chǎn)品路線圖,還談到OpenAI的使命以及人工智能的社會(huì)影響等問題。

以下為訪談要點(diǎn):

1、OpenAI嚴(yán)重受制于GPU短缺


(資料圖)

在整個(gè)討論中出現(xiàn)的一個(gè)共同主題是,目前OpenAI的GPU供應(yīng)非常有限,這導(dǎo)致他們推遲了許多短期計(jì)劃。客戶最大的抱怨是API的可靠性和速度。奧特曼承認(rèn)存在這種擔(dān)憂,并解釋說大部分問題是因GPU短缺所致。

長度為32k的上下文功能還不能推廣給更多的人。OpenAI還沒有克服相關(guān)技術(shù)挑戰(zhàn),所以雖然看起來他們很快(今年)就會(huì)有100k到1M令牌的上下文窗口,但更大的窗口都需要在研究上取得突破。

微調(diào)API目前也受到GPU可用性的限制。它們還沒有使用Adapters或LoRa等高效的調(diào)優(yōu)方法,因此調(diào)優(yōu)的運(yùn)行和管理需要大量的計(jì)算。將來會(huì)有更好的微調(diào)支持。他們甚至可以托管一個(gè)社區(qū)貢獻(xiàn)模型的市場(chǎng)。

專用容量供應(yīng)受GPU可用性的限制。OpenAI也提供專用容量,為客戶提供該模型的私人副本。但要使用這項(xiàng)服務(wù),客戶必須愿意支付相當(dāng)于10萬美元的費(fèi)用。

2、OpenAI的近期路線圖

奧特曼分享了他所看到的OpenAI API臨時(shí)近期路線圖。

2023年:

更便宜、更快的GPT-4:這是OpenAI的首要任務(wù)??偟膩碚f,OpenAI的目標(biāo)是盡可能地降低“智能成本”,因此他們將努力隨著時(shí)間的推移繼續(xù)降低API的成本。

更長的上下文窗口:在不久的將來,上下文窗口可能高達(dá)100萬令牌。

微調(diào)API:微調(diào)API將擴(kuò)展到最新的模型上,但其確切形式將由開發(fā)者真正想要的元素來決定。

支持會(huì)話狀態(tài)的API:當(dāng)你今天調(diào)用聊天API時(shí),你必須反復(fù)地傳遞相同的會(huì)話歷史,并反復(fù)支付同樣的令牌。將來,會(huì)有一個(gè)版本的API可以記住會(huì)話歷史記錄。

2024年:

多模態(tài):這在GPT-4發(fā)布時(shí)進(jìn)行了演示,但在更多GPU上線之前不能擴(kuò)展到所有人。

3、插件“沒有PMF”,可能不會(huì)很快出現(xiàn)在API中

許多開發(fā)人員都對(duì)通過API訪問ChatGPT插件感興趣,但奧特曼說他認(rèn)為這些插件不會(huì)很快發(fā)布。除了瀏覽,插件的使用表明他們還沒有PMF。奧特曼表示,很多人認(rèn)為他們希望自己的應(yīng)用被集成到ChatGPT中,但實(shí)際上,他們真正想要的是將ChatGPT引入自己的應(yīng)用中。

4、OpenAI將避免與他們的客戶競(jìng)爭,除了ChatGPT

許多開發(fā)者表示,他們對(duì)使用OpenAI API構(gòu)建產(chǎn)品感到緊張,因?yàn)镺penAI最終可能會(huì)發(fā)布與他們競(jìng)爭的產(chǎn)品。對(duì)此,奧特曼表示,OpenAI不會(huì)發(fā)布更多ChatGPT之外的產(chǎn)品。他說,許多偉大的平臺(tái)公司都有自己的殺手級(jí)應(yīng)用,ChatGPT將允許他們通過成為自家產(chǎn)品的客戶來改進(jìn)API。ChatGPT的愿景是成為一個(gè)超級(jí)智能的工作助手,但還有很多其他的GPT用例是OpenAI無法觸及的。

5、監(jiān)管是必要的,但開源同樣重要

雖然奧特曼呼吁對(duì)未來的模型進(jìn)行監(jiān)管,但他并不認(rèn)為現(xiàn)有的模型是危險(xiǎn)的,認(rèn)為監(jiān)管或禁止它們將是一個(gè)大錯(cuò)誤。奧特曼強(qiáng)調(diào)了開源的重要性,并表示OpenAI正在考慮開源GPT-3。他們還沒有開源的部分原因在于,他懷疑有多少個(gè)人和公司有能力托管大語言模型。

6、縮放定律仍然成立

最近許多文章都聲稱“巨型人工智能模型的時(shí)代已經(jīng)結(jié)束”,但奧特曼表示,這并沒有準(zhǔn)確地表達(dá)他的意思。

OpenAI的內(nèi)部數(shù)據(jù)表明,模型性能的縮放定律仍然成立,擴(kuò)大模型將繼續(xù)可以幫助提升性能。但這種擴(kuò)展速度無法維持下去,因?yàn)镺penAI在短短幾年內(nèi)就把模型放大了數(shù)百萬倍,這樣做是不可持續(xù)的。不過,這并非意味著OpenAI將停止擴(kuò)大模型,只是意味著它們的規(guī)模可能每年只會(huì)增加一倍或三倍,而不是以指數(shù)級(jí)速度增長。

縮放定律繼續(xù)發(fā)揮作用的事實(shí)對(duì)通用人工智能(AGI)開發(fā)的時(shí)間線具有重要意義??s放假設(shè)是指,我們可能已經(jīng)具備了構(gòu)建AGI所需的大部分要素,剩下的大部分工作將是采用現(xiàn)有方法,并將其擴(kuò)展到更大的模型和更大的數(shù)據(jù)集上。如果縮放時(shí)代已經(jīng)結(jié)束,那么我們應(yīng)該期待AGI離我們更遙遠(yuǎn)。但事實(shí)上,縮放定律繼續(xù)成立的事實(shí)強(qiáng)烈地暗示了時(shí)間線正變得更短。(金鹿)

標(biāo)簽:

<  上一篇

天天看點(diǎn):吉林省發(fā)布強(qiáng)對(duì)流天氣藍(lán)色預(yù)警

下一篇 >

7月5日至7日 高中進(jìn)行期末市質(zhì)檢