“悟道”公开课第二讲丨如何优化大模型输出结果
圖片出處:https://bmk.sh/2020/05/29/GPT-3-A-Brief-Summary/
如果你錯(cuò)過(guò)了上一波深度學(xué)習(xí)引發(fā)的NLP范式轉(zhuǎn)換,不要再錯(cuò)過(guò)這一波超大預(yù)訓(xùn)練模型的崛起。
現(xiàn)在,有一個(gè)重要機(jī)會(huì)擺在你面前:“悟道”系列公開(kāi)課正式開(kāi)課(地址:http://live.bilibili.com/21887724),手把手教你使用著名大規(guī)模預(yù)訓(xùn)練模型“悟道”開(kāi)發(fā)自己的智能應(yīng)用,更有120萬(wàn)+“悟道之巔”比賽獎(jiǎng)金等你拿!
事實(shí)上,以O(shè)penAI 的GPT-3 在 2020年問(wèn)世為起點(diǎn),這幾年,預(yù)訓(xùn)練模型對(duì)NLP領(lǐng)域帶來(lái)了顛覆性的影響為代表。大量令人印象深刻的演示如雨后春筍般涌現(xiàn),它們利用GPT-3的泛化能力來(lái)完成各式各樣的任務(wù)。最令人興奮的是,即使在如此大規(guī)模的情況下,模型在性能上仍能平穩(wěn)擴(kuò)展而非停滯不前,這也就意味著,隨著參數(shù)的增加,預(yù)訓(xùn)練模型還可以表現(xiàn)得更好。
圖片來(lái)源:李宏毅ppt
這是一個(gè)相當(dāng)有誘惑力的承諾。但是有一道門檻橫亙?cè)谖覀兠媲?#xff1a;它沒(méi)有公開(kāi)發(fā)布。?
OpenAI 選擇將其商業(yè)化,并僅通過(guò)付費(fèi) API 提供訪問(wèn)權(quán)限。鑒于 OpenAI 的盈利性質(zhì),這個(gè)操作無(wú)可厚非。因此,自去年以來(lái),不少商業(yè)機(jī)構(gòu)和學(xué)術(shù)團(tuán)隊(duì)都在致力于創(chuàng)建自己的 GPT-3 。
其中最值得留意的一個(gè)超大模型是“悟道”。
“悟道”由智源研究院學(xué)術(shù)副院長(zhǎng)、清華大學(xué)唐杰教授領(lǐng)銜,包括北京大學(xué)、清華大學(xué)、中國(guó)人民大學(xué)、中國(guó)科學(xué)院等單位的100余位AI科學(xué)家團(tuán)隊(duì)聯(lián)合開(kāi)發(fā),參數(shù)達(dá)到1.75萬(wàn)億參數(shù)。
目前悟道已經(jīng)進(jìn)化到2.0版本。它已經(jīng)不僅僅是個(gè)語(yǔ)言模型,正在攀登文本和視覺(jué)兩大座大山的悟道2.0,在問(wèn)答、繪畫、作詩(shī)、視頻等任務(wù)中逼近圖靈測(cè)試,并訓(xùn)練出包括中文、多模態(tài)、認(rèn)知、蛋白質(zhì)預(yù)測(cè)在內(nèi)的系列模型,是我國(guó)人工智能應(yīng)用基礎(chǔ)設(shè)施建設(shè)的里程碑。
另一個(gè)激動(dòng)人心的好消息是,現(xiàn)在,“悟道”核心團(tuán)隊(duì)將推出首檔公開(kāi)課,手把手教你理解并應(yīng)用“悟道”,進(jìn)一步挖掘“悟道”的潛力。
11月15日悟道之巔系列公開(kāi)課第二講將于晚7點(diǎn)開(kāi)課!第二講將由悟道團(tuán)隊(duì)的研發(fā)工程師杜冀中為大家詳細(xì)講解如何針對(duì)應(yīng)用場(chǎng)景對(duì)悟道大模型的輸出結(jié)果進(jìn)行優(yōu)化。
如果你錯(cuò)過(guò)了第一講課程內(nèi)容也無(wú)需擔(dān)心,直戳下方鏈接查看第一講課程全程回顧:
https://www.bilibili.com/video/BV1M44y1v7FJ?spm_id_from=333.999.0.0
“悟道之巔”系列公開(kāi)課第二講詳情如下:
快來(lái)預(yù)約學(xué)習(xí)吧(地址:http://live.bilibili.com/21887724)!“數(shù)據(jù)實(shí)戰(zhàn)派”將同步發(fā)出系列課程相關(guān)內(nèi)容,敬請(qǐng)關(guān)注!
?附:“悟道之巔”大賽信息?
1、大賽賽程
8月23日,初賽啟動(dòng)
10月,先鋒獎(jiǎng)評(píng)選
12月下旬,初賽提交截止,入圍隊(duì)伍答辯,角逐最終大獎(jiǎng)。
2、獎(jiǎng)項(xiàng)設(shè)置
大賽獎(jiǎng)金:100萬(wàn)元
一等獎(jiǎng):1支隊(duì)伍,20萬(wàn)元
二等獎(jiǎng):2支隊(duì)伍,10萬(wàn)元
三等獎(jiǎng):6支隊(duì)伍,5萬(wàn)元
優(yōu)勝獎(jiǎng):30支隊(duì)伍,1萬(wàn)元
(另有20萬(wàn)特殊獎(jiǎng)項(xiàng)設(shè)置,詳情見(jiàn)比賽官網(wǎng))
3、報(bào)名和交流
大賽官網(wǎng):https://wudaoai.cn/summit ?(點(diǎn)擊文末“閱讀原文”即可訪問(wèn))
比賽討論區(qū):https://baai.org/l/wudaosummit
微信交流群:
與50位技術(shù)專家面對(duì)面20年技術(shù)見(jiàn)證,附贈(zèng)技術(shù)全景圖總結(jié)
以上是生活随笔為你收集整理的“悟道”公开课第二讲丨如何优化大模型输出结果的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 农村可以投资什么项目 给大家提供几个好选
- 下一篇: 电子商业汇票怎么承兑