《科創(chuàng)板日?qǐng)?bào)》3月19日訊（編輯，宋子喬）十年寒窗無(wú)人問(wèn)，一朝成名天下知。當(dāng)坐在舊金山先鋒大廈的寫字樓中埋頭寫代碼的時(shí)候，OpenAI首席執(zhí)行官Sam Altman是否會(huì)想到，2023年，自己的面孔將如此頻繁地出現(xiàn)在各大科技媒體的封面？
人類是多么喜愛(ài)類比思考，如同在互聯(lián)網(wǎng)2.0時(shí)代追問(wèn)“為什么是蘋果？”一樣，新問(wèn)題來(lái)了：為什么是OpenAI？
長(zhǎng)期以來(lái)，谷歌一直占據(jù)著人工智能領(lǐng)域的頭把交椅，基于這一點(diǎn)，這一問(wèn)題可被進(jìn)一步具體化——OpenAI為什么能在和谷歌的較量中勝出？
(相關(guān)資料圖)
解謎第一步，了解你的探索對(duì)象。
▌大衛(wèi)挑戰(zhàn)歌利亞
ChatGPT的開發(fā)商OpenAI一出生便“自帶光環(huán)”——
2015年12月，美國(guó)知名VC機(jī)構(gòu)Y Combinator的合伙人兼總裁山姆?阿爾特曼（Sam Altman）、Linkedin創(chuàng)始人里德?霍夫曼（Reid Hoffman）在舊金山成立了OpenAI，特斯拉CEO埃隆?馬斯克（Elon Musk）、PayPal聯(lián)合創(chuàng)始人彼得?蒂爾（Peter Thiel）、Stripe的CTO布羅克曼（Greg Brockman）等人共同認(rèn)捐10億美元。
彼時(shí)的人工智能領(lǐng)域，17歲的谷歌獨(dú)領(lǐng)風(fēng)騷。3個(gè)月后，其收編已有一年的DeepMind，以AlphaGo戰(zhàn)勝人類圍棋世界冠軍，也為人工智能行業(yè)注入了一針強(qiáng)心劑。
而OpenAI意氣風(fēng)發(fā)，將自己定位為非盈利性組織、承諾將免費(fèi)分享開發(fā)代碼，目標(biāo)很明確——遏制谷歌在人工智能領(lǐng)域的壟斷地位。
大衛(wèi)與歌利亞的對(duì)決就此拉開序幕。
2019年初，OpenAI宣布從“非盈利”性質(zhì)過(guò)渡到“封頂營(yíng)利（capped for profit）”，成立子公司OpenAI LP并“抱上金大腿”——引入了微軟的10億美元投資。阿爾特曼也正是在此時(shí)辭去了YC集團(tuán)（Y Combinator的母公司）總裁職務(wù)，全身心投入到OpenAI并擔(dān)任CEO。
野心有了，但前路荊棘叢生，少年滿眼迷茫。
想要成功挑戰(zhàn)谷歌在人工智能領(lǐng)域的地位好比蚍蜉撼樹，更遑論谷歌CEO桑德?皮查伊（Sundar Pichai）在2016年5月宣布將公司戰(zhàn)略轉(zhuǎn)為“人工智能為先”（AI First）。
阿爾特曼曾在2019年被問(wèn)及OpenAI要如何實(shí)現(xiàn)盈利，他坦言，“老實(shí)說(shuō)，我們不知道（honest answer is we have no idea）”。
▌選擇大于努力
與其將ChatGPT背后的大模型GPT視作一個(gè)顛覆式創(chuàng)新，倒不如說(shuō)它是站在前人肩膀上的集大成者。
GPT的“T”是指Transformer架構(gòu)，該架構(gòu)是其技術(shù)底座，由谷歌研發(fā)而成，已經(jīng)開源。特斯拉自動(dòng)駕駛、預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)的AlphaFold2模型都是在Transformer的基礎(chǔ)上構(gòu)建的。
起點(diǎn)明顯低于谷歌，OpenAI要如何翻盤？
阿爾特曼的一句話給出了解謎線索——“無(wú)論做什么創(chuàng)業(yè)公司都會(huì)很辛苦，不如干票大的?！保⊿tartups are very hard no matter what you do , you may as well go after a big opportunity.）
“a big opportunity”是什么？大模型是也。
2015年之前，人工智能的江湖，小模型遍地走。有科技業(yè)內(nèi)人士分析稱，國(guó)內(nèi)在ChatGPT上落后的原因，是之前把資源更多地放在產(chǎn)業(yè)互聯(lián)網(wǎng)和B端業(yè)務(wù)，涉及的是產(chǎn)業(yè)端的小模型，而沒(méi)有把精力放在面向C端的通用人工智能，導(dǎo)致錯(cuò)失了時(shí)間窗口機(jī)遇。
當(dāng)然，一直以來(lái)，大模型也是谷歌在內(nèi)的大公司的研究方向。但能做到“孤注一擲”、“鐘愛(ài)”GPT路線的，只有OpenAI一家。反觀谷歌先后推出了BERT、T5、Switch Transformer、PaLM-E等模型，可謂廣撒網(wǎng)。
即便在與谷歌的較量中長(zhǎng)期落于下風(fēng)，OpenAI也沒(méi)有放棄將GPT作為唯一路線——
2018年，OpenAI推出了1.17億參數(shù)的GPT-1，谷歌推出了3億參數(shù)的BERT。結(jié)果是，發(fā)布更早的GPT-1完敗晚4個(gè)月發(fā)布的BERT。在當(dāng)時(shí)的競(jìng)賽排行榜上，閱讀理解領(lǐng)域被BERT屠榜了。此后，BERT成為了NLP（自然語(yǔ)言處理）領(lǐng)域最常用的模型。
OpenAI選擇“硬剛”，此后幾年，在幾乎沒(méi)有改變模型架構(gòu)的基礎(chǔ)上，OpenAI陸續(xù)推出參數(shù)更大的迭代版本GPT-2、GPT-3。
與谷歌一同在AI的荒野上求索，OpenAI選擇了人跡更少的一條路，再次印證“選擇有時(shí)候比努力更重要” 。
▌被貴人“放養(yǎng)”的義子
10億美元的啟動(dòng)資金讓OpenAI含著金湯匙出生，但奈何其花錢如流水，上千億規(guī)模的大模型光訓(xùn)練費(fèi)用就要上百萬(wàn)美金。投靠微軟后OpenAI絲毫不該本性，前者好比收了一個(gè)大手大腳卻不爭(zhēng)氣的義子。
微軟選擇了“放養(yǎng)”，用金錢為GPT大模型打造一條護(hù)城河。但天下沒(méi)有免費(fèi)的午餐，微軟并不是為了做慈善。
阿爾特曼的作用再次體現(xiàn)，他多次飛去西雅圖，為微軟CEO薩蒂亞?納德拉（Satya Nadella）現(xiàn)場(chǎng)展示OpenAI的模型。
經(jīng)過(guò)多次談判，兩者達(dá)成了獨(dú)特的合作模式：
業(yè)務(wù)上，微軟成了OpenAI的唯一云計(jì)算供應(yīng)商和“首要合作伙伴”，其他公司想使用OpenAI的技術(shù)，最好的方式是搭上微軟的Azure云計(jì)算梯子。
利潤(rùn)分配上，微軟相當(dāng)于“租了OpenAI”，一旦OpenAI超額盈利，微軟能直接“提現(xiàn)”。即微軟新一輪投資完成、OpenAI LP首批投資人收回初始投資后，微軟有權(quán)獲得OpenAI LP 75%利潤(rùn)；微軟收回130億美元投資、從OpenAI LP獲得920億美元利潤(rùn)后，它分享利潤(rùn)的比例從75%降到49%；OpenAI LP產(chǎn)生的利潤(rùn)達(dá)到1500億美元后，投資方的全部股權(quán)轉(zhuǎn)讓給OpenAI的非營(yíng)利基金。
這筆買賣，納德拉并不吃虧。據(jù)市場(chǎng)消息，在2019年到2023年之間，微軟又投資了20億美元。
▌再度借勢(shì)谷歌實(shí)現(xiàn)技術(shù)躍遷
在通往大模型的路上，OpenAI用七八年的時(shí)間只磨一劍，此刻霜刃未試，只需一陣恰如其分的東風(fēng)。這陣風(fēng)起于2022年——最新版本的GPT實(shí)現(xiàn)了量變到質(zhì)變的突破，完成了技術(shù)躍遷，對(duì)手谷歌起到了關(guān)鍵作用。我們可以來(lái)回顧這個(gè)過(guò)程：
如今，GPT大模型被稱為暴力美學(xué)的典范，驗(yàn)證了“模型越大，性能越好”的邏輯。但曾幾何時(shí)，這一邏輯長(zhǎng)期跑不通。
OpenAI的研究者最開始認(rèn)為語(yǔ)言模型的性能與模型尺寸的關(guān)系可以通過(guò)對(duì)數(shù)線性曲線預(yù)測(cè)，即模型尺寸呈指數(shù)增長(zhǎng)時(shí)，性能會(huì)隨之線性增加（見下圖）。
在這個(gè)階段，即便最大的 GPT-3，其性能也不能勝過(guò)小模型，故NLP的研究聚焦在更小的模型或者高效參數(shù)適應(yīng)，大模型前途一片黯淡。
轉(zhuǎn)機(jī)出現(xiàn)在2022年1月。一位谷歌研究員對(duì)模型訓(xùn)練方式做出了一個(gè)小小的改變，正是這個(gè)創(chuàng)新，徹底改變了大模型的命運(yùn)。
該研究員叫Jason Wei，他提出了“思維鏈”的概念，一種針對(duì)模型訓(xùn)練的離散式提示學(xué)習(xí)方式。簡(jiǎn)單來(lái)說(shuō)，就是將問(wèn)題的“思維過(guò)程”提示給模型，指導(dǎo)它獲得更好的答案。
標(biāo)注思維鏈后，大模型似乎增強(qiáng)了理解力，回答問(wèn)題的準(zhǔn)確性大大提高，進(jìn)而推翻了推翻上述比例定律，頗有種“山窮水盡疑無(wú)路 柳暗花明又一村”的感覺(jué)。
借助新的訓(xùn)練方式，當(dāng)模型尺寸足夠大、達(dá)到一定規(guī)模時(shí)，會(huì)突然獲得小模型不具備的能力，讓模型的性能急劇增加、超越比例曲線（見下圖）。
之后的故事，如你所見：ChatGPT甫一上線，上百萬(wàn)用戶瘋狂涌入并在社交媒體上轉(zhuǎn)發(fā)對(duì)話截圖；大洋彼岸的中國(guó)，股市里一眾板塊你方唱罷我登場(chǎng)，而這一切都發(fā)生在短短四個(gè)月之內(nèi)。
▌結(jié)語(yǔ)
如果非要為OpenAI的成功尋求一個(gè)答案，那么你可能得到一句口水話：OpenAI做對(duì)選擇并堅(jiān)持了下去，期間找到“貴人”微軟相助守住了這份少年意氣，沒(méi)有放棄每一個(gè)借力向上的機(jī)會(huì)。
如今，更有無(wú)數(shù)追隨者正奔赴大模型領(lǐng)域，它們追尋著OpenAI的選擇，但是行百里者半九十，能否堅(jiān)持下去就要看各自的本事了。
（科創(chuàng)板日?qǐng)?bào) 宋子喬）