楊凈 明敏 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

(資料圖)

Breaking News！

深度學(xué)習(xí)三巨頭、神經(jīng)網(wǎng)絡(luò)之父Geoffrey Hinton已離職谷歌，結(jié)束十載生涯。

最新推文中透露了原因：為了自由地討論人工智能的風(fēng)險(xiǎn)。

消息一出，整個(gè)科技圈炸了，人們震驚于AI已經(jīng)讓Hinton感到害怕了。

有網(wǎng)友直接懵?。旱降装l(fā)生了什么？還是我漏掉了什么？你不是曾說(shuō)過(guò)GPT-4為人類(lèi)的蝴蝶嗎？

不少人還認(rèn)為Hinton此舉有待商榷，應(yīng)該將關(guān)注人工智能安全工作常態(tài)化而不是離職。

甚至還有人勸他理解AI，而不是通過(guò)延遲研究來(lái)限制?，F(xiàn)在潘多拉魔盒已經(jīng)打開(kāi)。

但Hinton的態(tài)度似乎十分堅(jiān)定，在訪談中直言：對(duì)自己畢生的工作感到后悔。

而另一位巨頭LeCun這邊也表示，對(duì)Hinton的離職并不驚訝。

不少網(wǎng)友在底下已經(jīng)開(kāi)始就AI的各種問(wèn)題尋求Hinton的見(jiàn)解：

你對(duì)開(kāi)源AI有什么看法？你覺(jué)得需要注意和避免的最大危險(xiǎn)是什么？

“對(duì)自己畢生的工作感到后悔”

據(jù)《紐約時(shí)報(bào)》消息，Hinton的離職是在4月提出的。辭職的理由一言以蔽之，是對(duì)人工智能風(fēng)險(xiǎn)的擔(dān)憂(yōu)。

這種憂(yōu)慮甚至讓這位深度學(xué)習(xí)之父表示：

我對(duì)自己畢生的工作，感到非常后悔。

我用一個(gè)借口來(lái)安慰自己，如果我沒(méi)有這么做，還會(huì)有其他人。

梳理來(lái)看，引發(fā)Hinton擔(dān)憂(yōu)情緒的因素，有近期和遠(yuǎn)期兩個(gè)方面。

先說(shuō)近期影響，就是ChatGPT趨勢(shì)下的新一輪AI競(jìng)爭(zhēng)。

在微軟將ChatGPT引入Bing后，挑戰(zhàn)了谷歌的核心業(yè)務(wù)搜索引擎，然后谷歌馬上推出了Bard作為應(yīng)對(duì)。這讓Hinton覺(jué)得，谷歌似乎不再扮演AI“好管家”的角色了。

而且科技巨頭們正在掀起一場(chǎng)無(wú)法停止的角逐。由此帶來(lái)的影響，將是生成式AI生產(chǎn)出非常多真假難辨的內(nèi)容。

而從長(zhǎng)遠(yuǎn)來(lái)看，Hinton認(rèn)為，AI將會(huì)對(duì)就業(yè)市場(chǎng)造成巨大影響。如助理、翻譯等各行各業(yè)都可能被擾亂。

再進(jìn)一步，AI或許也會(huì)對(duì)人類(lèi)構(gòu)成威脅。

因?yàn)閭€(gè)人和企業(yè)不僅允許AI生成代碼，實(shí)際上AI也有能力運(yùn)行這些代碼。因此Hinton認(rèn)為有朝一日那種具有自主能力的殺手機(jī)器人，會(huì)成為現(xiàn)實(shí)。

他表示，AI實(shí)際上可以比人類(lèi)擁有更聰明的想法——一些人相信這一點(diǎn)。但是他沒(méi)有預(yù)料到人工智能的發(fā)展速度會(huì)像過(guò)去7個(gè)月那樣快。

我曾以為這需要30-50年之久，但是現(xiàn)在我不這么想了。

這種想法，和之前十余位美國(guó)人工智能協(xié)會(huì)專(zhuān)家聯(lián)名發(fā)出的警告，有些相似之處。不過(guò)在那時(shí)，Hinton并沒(méi)有參與這項(xiàng)活動(dòng)。

據(jù)《紐約時(shí)報(bào)》消息，離職前，谷歌CEO桑達(dá)爾·皮查伊和他通過(guò)電話，但具體內(nèi)容Hinton不愿透露。

這場(chǎng)離職風(fēng)暴中，谷歌研究首席科學(xué)家、谷歌高級(jí)副總裁Jeff Dean發(fā)表了一份聲明，表示：

我們?nèi)詴?huì)堅(jiān)持對(duì)AI采取負(fù)責(zé)任的態(tài)度。我們?cè)诓粩鄬W(xué)習(xí)理解新出現(xiàn)的風(fēng)險(xiǎn)時(shí)，也在大膽創(chuàng)新。

對(duì)于Hinton的離職，另一位深度學(xué)習(xí)三巨頭之一LeCun表示，Hinton并沒(méi)有和他透露要離開(kāi)谷歌的打算，不過(guò)他對(duì)比并不感到十分驚訝。

OpenAI首席科學(xué)家是他學(xué)生

此番離職，或許對(duì)于Hinton來(lái)說(shuō)，也是時(shí)候了。

ChatGPT、大模型讓全球?qū)τ谕ㄓ萌斯ぶ悄艿南胂蟾泳呦?，其背后的安全與風(fēng)險(xiǎn)等問(wèn)題也被搬上日程。

一直以來(lái)，Hinton對(duì)于通用人工智能抱有贊嘆和期待。

早在GPT-3剛出爐、其他兩位圖靈獎(jiǎng)得主LeCun和Bengio都持不看好態(tài)度時(shí)，Hinton卻表示，從GPT-3出色的性能可以推斷，生命、宇宙和萬(wàn)物的答案“不過(guò)是4.398萬(wàn)億個(gè)參數(shù)而已”。

直至ChatGPT出現(xiàn)時(shí)，他還將GPT-4比作人類(lèi)的蝴蝶：

毛毛蟲(chóng)提取營(yíng)養(yǎng)物質(zhì)，然后轉(zhuǎn)化為蝴蝶。人們已經(jīng)提取了數(shù)十億的理解金塊，而 GPT-4 是人類(lèi)的蝴蝶。

他驚嘆其效果的同時(shí)也透露出不少隱憂(yōu)。

RLHF機(jī)制是在培養(yǎng)一個(gè)超常的早熟兒。

而現(xiàn)在，隨著ChatGPT風(fēng)暴席卷越來(lái)越多的行業(yè)，Hinton想要站出來(lái)承擔(dān)人工智能危機(jī)“敲鐘人”的角色，就已經(jīng)到了關(guān)鍵時(shí)刻。

值得一提的是，在通用人工智能探索的最前沿，Hinton的學(xué)生們?nèi)园缪葜匾巧?/p>

比如，現(xiàn)在OpenAI的首席科學(xué)家Ilya Sutskever。

△左：Ilya Sutskever，右：Hinton；圖源：多倫多大學(xué)

當(dāng)年，Hinton與他的兩位學(xué)生Ilya Sutskever和Alex Krizhevsky共同發(fā)明了卷積神經(jīng)網(wǎng)絡(luò)AlexNet，拿下當(dāng)年最權(quán)威的人工智能大賽ImageNet第一名，而且精確度是第二名的兩倍。

后來(lái)，他們還一起成立了公司DNNResearch，后被谷歌4400萬(wàn)美元收購(gòu)。

Ilya Sutskever擔(dān)任Google Brain的研究科學(xué)家，并成為后來(lái)AlphaGO眾多合著者之一。直至2015年底他離開(kāi)谷歌，加入OpenAI擔(dān)任聯(lián)合創(chuàng)始人以及首席科學(xué)家。

好了，期待Hinton大佬的新動(dòng)向，對(duì)于他此番離職谷歌，你怎么看呢？

參考鏈接：

[1]https://www.theverge.com/2023/5/1/23706311/hinton-godfather-of-ai-threats-fears-warnings

[2]https://twitter.com/geoffreyhinton/with_replies

[3]https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html