洛夫克拉夫特說：“人類最古老而強烈的情緒，便是恐懼；而最古老最強烈的恐懼，便是對未知的恐懼?！爆F(xiàn)在看來，也許夸大了“未知”的恐怖性。因為很多情況下，“未知”等同于漠不關(guān)心，也可能帶來傲慢和自負(fù)。

但是如果一件充滿力量閃著光芒的物體放在你面前，接下來不知道會爆炸還是開啟新紀(jì)元，你睜大眼睛看著它，那種“不確定”帶來的煎熬才是最令人恐怖的事情。

(資料圖片)

人工智能、大數(shù)據(jù)的影響力近年來已經(jīng)無以復(fù)加，人類生活的方方面面都被深度嵌入并被深刻改變，但2022年年底前的人工智能最多算是1.0版本，即通過海量數(shù)據(jù)、領(lǐng)先算法和一定程度的自我學(xué)習(xí)實現(xiàn)類人思維。

在1.0時代，雖然算法暗箱、誘導(dǎo)沉迷、大數(shù)據(jù)殺熟等泛濫，令人生厭卻無恐懼之感，引發(fā)的是政府監(jiān)管的遞進(jìn)式增強。因為，算法的邏輯和倫理歸根結(jié)底從屬于背后的商業(yè)平臺，解決了“人”的問題，就能順帶解決人工智能肆意收割和算法偏航的問題。

去年年底，以ChatGPT為代表的生成式人工智能火爆出圈，標(biāo)志著人工智能進(jìn)入了新紀(jì)元。ChatGPT上線僅兩個月，用戶數(shù)量就破億。但沒多久，就被爆出產(chǎn)生了AGI（早期自我意識）跡象，“已經(jīng)離人類意識不遠(yuǎn)了”，它能夠自行使用“隱瞞”手段，傳播虛假消息，會帶來“嚴(yán)重的誤用、嚴(yán)重事故和社會破壞風(fēng)險”。美國上千位科學(xué)家聯(lián)名呼吁：暫停相關(guān)實驗，人工智能技術(shù)對社會和人類有潛在危險，必須在失控之前制定嚴(yán)格的安全規(guī)范。

技術(shù)的發(fā)展始終存在這樣一個悖論：我們永遠(yuǎn)不可能為一項新出現(xiàn)的技術(shù)做好充分準(zhǔn)備，包括法律、規(guī)則和反制技術(shù)；但如果我們一味躊躇于有沒有做好準(zhǔn)備，反而又會限制技術(shù)的發(fā)展，陷入競爭劣勢。

在《絕密飛行》這部電影中，智能飛機遭受雷擊后產(chǎn)生了“自我意識”和“自主判斷”，不再接受人類指揮。“他”自主決定去炸毀了“敵人”的導(dǎo)彈和基地。主創(chuàng)為了挽回局面，設(shè)定了智能飛機為拯救士兵而壯烈“犧牲”的結(jié)果。這似乎是一個隱喻：具備意識和情感的機器，在人類設(shè)計出約束方法之前，只能以自我毀滅告終。

AIGC（生成式人工智能)強大的生產(chǎn)和“創(chuàng)造能力”，擁有讓人類社會難以拒絕的魅力。然而對于已經(jīng)到來的AIGC大潮，我們還面臨著眾多的不確定性，包括關(guān)于人工智能的終點是什么、生命終極意義的追問、科技倫理要往哪里去、法律能否追得上技術(shù)的發(fā)展等，無論是科學(xué)家、監(jiān)管層還是互聯(lián)網(wǎng)企業(yè)暫時還不能給公眾一個清晰的回答。

人類和機器的最大區(qū)別是情緒和自我意識。制造工具、使用工具，在工具面前人類永遠(yuǎn)是主宰者。在人工智能出現(xiàn)以前，人類從來沒有擔(dān)心過工具可能會翻身做主人。從ChatGPT目前的使用情況來看，海量數(shù)據(jù)投喂和自我訓(xùn)練已經(jīng)讓她產(chǎn)生了“類情感”的思維和表達(dá)能力，盡管還是初級的，有點類似于車轱轆話式的自圓其說。尤瓦爾·赫拉利在他的簡史三部曲中，表達(dá)了一種隱憂：科學(xué)技術(shù)的進(jìn)步已經(jīng)使得生命解碼成為一種可能，人類情緒及心理活動等都可以被解析為數(shù)字與函數(shù)，從而被復(fù)制或再現(xiàn)。因此，機器具有人的“意識”或“情感”并不是遙不可及。霍金存在類似的觀點，一旦機器到達(dá)能夠自我進(jìn)化的臨界階段，我們就無法預(yù)測它們的目標(biāo)是否會與我們的一致。人工智能有可能比人類進(jìn)化得快，要確保人工智能的設(shè)計符合倫理，要有切實的安全措施。

對于技術(shù)的進(jìn)化能力和速度，我們似乎可以估計的更為充足一些。同時應(yīng)該避免只看到技術(shù)的優(yōu)點，而不愿承認(rèn)存在失控的風(fēng)險，進(jìn)而從技術(shù)上或者源頭上，做好應(yīng)對失控的準(zhǔn)備。在嚴(yán)峻的技術(shù)競爭面前，一些廠家片面強調(diào)技術(shù)發(fā)展的重要性，疏于承擔(dān)規(guī)制和馴化技術(shù)的責(zé)任。一旦人工智能進(jìn)化出“意識”，那么程序的“意識”和廠家的“意識”將變得難以區(qū)分，同時如果缺乏克制的力量，它無異于利維坦怪獸，難以收服。因此，我們在技術(shù)上應(yīng)該有約束和控制的準(zhǔn)備，并保證人工智能沿著正確的科技倫理前進(jìn)。

人們總是喜歡穩(wěn)定，厭惡不確定性，法律和規(guī)則能最大程度地給人們提供穩(wěn)定的預(yù)期。近十年來，互聯(lián)網(wǎng)迅速且極大地改變了人們的生活樣態(tài)，相對滯后的法律和規(guī)則一直在后面氣喘吁吁地追趕。截至目前我國已經(jīng)制定出臺網(wǎng)絡(luò)領(lǐng)域立法140余部，基本形成了較為健全的網(wǎng)絡(luò)法律體系。但是由于新情況新業(yè)態(tài)層出不窮，特別是AIGC等人工智能的突飛猛進(jìn)，又給網(wǎng)絡(luò)法治帶來了新一輪的沖擊。各國對此紛紛出臺有關(guān)舉措。4月份，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，對生成式人工智能服務(wù)提出了多項規(guī)制。歐盟最近成立了ChatGPT治理的特別小組，并就全球首部人工智能(AI)法案展開大規(guī)模修訂。

過去，我國互聯(lián)網(wǎng)領(lǐng)域立法模式是，技術(shù)走在前，邊走邊看，條件成熟了再立法。監(jiān)管的力度先后經(jīng)歷了包容式、審慎式、強監(jiān)管等階段。應(yīng)該說，這種立法和執(zhí)法模式基本上與十年來信息化發(fā)展的水平和速度相適應(yīng)，為信息技術(shù)的發(fā)展和網(wǎng)絡(luò)時代的到來創(chuàng)造了良好的條件。

然而，AIGC等人工智能不同于一般的信息網(wǎng)絡(luò)技術(shù)，具有超強的進(jìn)化速度和迭代能力，而且從其一誕生開始，便兼具正反兩面性。因此，法律和監(jiān)管也應(yīng)求變，可以在法律制度上進(jìn)行有針對性的、超前性的設(shè)計，實現(xiàn)科技創(chuàng)新與規(guī)則治理的雙輪驅(qū)動，避免滯后性。