如果用AI技術(shù)“復(fù)活”去世的人,你能接受嗎?近日,在參與相關(guān)調(diào)查的約3.2萬名網(wǎng)友中,接受者與拒絕者不相上下。而現(xiàn)實(shí)中,上海24歲小伙用AI技術(shù)“復(fù)活”已故的奶奶并與之視頻通話,同樣引發(fā)爭議。一方認(rèn)為,這種“技術(shù)思親”自欺欺人,是對(duì)逝者的不尊重,存在倫理問題；一方則認(rèn)為,這是AI的創(chuàng)新使用,讓人的思念變得具體,感受到了科技的溫度。4月11日,國家網(wǎng)辦發(fā)布的《生成式人工智能服務(wù)管理辦法(征求意見稿)》中明確要求,生成式人工智能服務(wù)采取適當(dāng)措施防范用戶過分依賴或沉迷生成內(nèi)容?？萍疾繝款^起草的《科技倫理審查辦法(試行)》中則提出,“對(duì)人類主觀行為、心理情緒和生命健康等具有較強(qiáng)影響的人機(jī)融合系統(tǒng)的研發(fā)”等7項(xiàng)可能產(chǎn)生較大倫理風(fēng)險(xiǎn)挑戰(zhàn)的新興科技活動(dòng),實(shí)施清單管理。對(duì)此您怎么看?
我們拿什么來守護(hù)“人”的邊界?
□特約評(píng)論員 袁法周
前幾日,在與蘭州大學(xué)邱鋒教授探討歷史方面的問題時(shí),我半開玩笑地說:“伴隨著‘人’的終結(jié),人類并不會(huì)走向‘歷史的終結(jié)’,而會(huì)在人工智能的加持下,在不可預(yù)知的深空中橫沖直撞。然而,歷史或許將不再由我們來續(xù)寫?！薄叭恕睍?huì)終結(jié)嗎?這是一個(gè)嚴(yán)肅的話題。
【資料圖】
當(dāng)萬物互聯(lián)的時(shí)代數(shù)據(jù)主義大行其道,“人”的閾值不斷被突破。人工智能擁有著不可思議的超級(jí)“算法”,逐漸具備思考與研究歷史問題的智能,從一篇?dú)v史文章的撰寫到歷史體系的重構(gòu),超越歷史學(xué)家們的智能指日可待。因此,我認(rèn)為“傳統(tǒng)史學(xué)史研究方法已然終結(jié)”,但“歷史學(xué)者的邊界在哪里?”一葉落而知天下寒,面對(duì)人工智能的步步緊逼,歷史學(xué)者們擔(dān)心丟了飯碗,而整個(gè)人類則是要面對(duì)被“替代”的趨勢。
這讓我想到網(wǎng)上熱議的AI“親人復(fù)活”技術(shù),孫子與已故的“虛擬奶奶”視頻交流。通過虛擬技術(shù)以解親人思念之苦無可厚非,但是隨著技術(shù)的廣泛應(yīng)用,必然會(huì)涉及甚至觸碰法律與倫理的底線。一旦泛濫與失控,就不是現(xiàn)實(shí)與虛擬融合看起來那么美好。當(dāng)現(xiàn)實(shí)在虛擬中逐漸消解,整個(gè)社會(huì)運(yùn)行秩序走向分裂瓦解,人的精神信仰喪失崩塌,那將是一場史無前例的巨大災(zāi)難?！叭恕钡倪吔缭谀睦?我們該如何守護(hù)?這不僅是個(gè)嚴(yán)肅的問題,還是一個(gè)令人恐懼的問題。
請(qǐng)不要忽視人性的復(fù)雜性。當(dāng)人類大力發(fā)展人工智能,一方面推動(dòng)了科技進(jìn)步,增進(jìn)了民生福祉。另一方面也制造出更具毀滅性的工具,讓整個(gè)人類陷入危險(xiǎn)境地。盡管全球包括我國都相繼出臺(tái)了有關(guān)人工智能發(fā)展的法律規(guī)范。但是,一次次突破“人”的閾值的往往是人,而不是人工智能。如果有一天人工智能具備了超越人類的智能甚至意識(shí),向人類索取“權(quán)利”并擺脫控制時(shí),在兩者之間會(huì)有一場和平談判嗎?我們還會(huì)用好萊塢式的“愛”來反轉(zhuǎn)被“替代”的命運(yùn)嗎?我們是在與“工具”談判,還是在與親手終結(jié)了“人”的自己談判?面對(duì)人工智能,人類不僅需要的是“控制”,更需要對(duì)“人”本身的反思。
(作者為人民美術(shù)出版社副編審,歷史學(xué)博士,北京師范大學(xué)中國易學(xué)文化研究院研究員)
不必對(duì)“數(shù)字生命”過度恐慌
□特約評(píng)論員 于靜
詩云:“生如夏花之絢爛,死如秋葉之靜美?！睂?duì)待生命,每個(gè)人都有自己的認(rèn)知和思考。中國人常掛在嘴邊的一句話就是“人死不能復(fù)生”,這是對(duì)生命的敬畏,亦是對(duì)自然規(guī)律的尊重。但人類文明進(jìn)化到今天,科技改變生活,科技也顛覆了我們的認(rèn)知。將已故的親人“復(fù)活”,和他們面對(duì)面聊天,這些以往只能在科幻電影中看到的畫面,竟然走進(jìn)了現(xiàn)實(shí),例如上海一小伙用AI工具“復(fù)活”已故奶奶,并與之視頻對(duì)話。有人點(diǎn)贊,這是有益的嘗試和創(chuàng)新,彰顯科技的溫度。然而,也有相當(dāng)一部分人質(zhì)疑,認(rèn)為這是在試探法律的底線,挑戰(zhàn)倫理的邊界。
說實(shí)話,我挺敬佩這名上海小伙的,別的不說,最起碼他找到了寄托哀思的辦法,并且還有科技加持。對(duì)待這樣的新鮮事物,沒必要過度恐慌。就拿清明節(jié)來說,以前祭拜先人,都是肅立碑前,焚香燒紙,如果不這樣做,就會(huì)被質(zhì)疑為不孝。但是這些年,出于防火環(huán)?？紤],很多地方都禁止明火,而不少人因?yàn)楦鞣N原因,清明節(jié)也無法做到墳前祭拜。于是,網(wǎng)上祭掃,甚至代掃墓等方式逐漸興起,并被世人接受。
話題回到AI技術(shù)“復(fù)活”已故親人,其實(shí)道理是一樣的。說白了,不過是一種化解思念的方式而已,這不是科幻電影中提及的“數(shù)字生命”,不是人類思維的延續(xù)。這種交流方式最多只是一種精神安慰,并未突破當(dāng)前法律和道德的底線。
科技也是有溫度的,對(duì)待新事物不妨寬容一些。就像現(xiàn)在一些短視頻平臺(tái)上,有軟件用AI技術(shù)合成一個(gè)人從童年、到中年、再到老年的樣貌,演繹一步步從懵懂無知走向衰老的過程,雖然明知這是技術(shù)合成的,但是看著鏡頭中慢慢變老的自己,我想沒有幾個(gè)人不會(huì)產(chǎn)生觸動(dòng)。
當(dāng)然,包括AI技術(shù)在內(nèi),所有的新技術(shù)都不應(yīng)該被濫用,在運(yùn)用的過程中,首先不能違反相關(guān)法律法規(guī),再者不能超越世俗人倫的底線,就好比現(xiàn)在經(jīng)常使用的各類“變聲”軟件,拿來娛樂、用作正常的視頻剪輯沒問題,但是如果有人借此從事違法犯罪活動(dòng),那性質(zhì)肯定就變了。
(作者為作家、時(shí)評(píng)人,青島市作家協(xié)會(huì)會(huì)員)
AI“復(fù)活”奶奶,無關(guān)倫理但關(guān)乎法律
□特約評(píng)論員 宋守山
科技的發(fā)展總是在創(chuàng)造“奇跡”。比如,近日有年輕人“復(fù)活”了自己去世不久的奶奶,并與之進(jìn)行了簡單的交流。這一事件雖然有些“詭異”,但在AI換臉技術(shù)已經(jīng)面世將近十年的今天,再有大數(shù)據(jù)等技術(shù)的加持,實(shí)現(xiàn)人的虛擬“再現(xiàn)”似乎也不是一件十分困難的事情。只是,如何對(duì)待技術(shù)的發(fā)展,則值得引發(fā)人們深度思考。
畢竟我們這代人已經(jīng)深度介入互聯(lián)網(wǎng)有二十余年。這些年中,每個(gè)人都在網(wǎng)上積累了大量的數(shù)據(jù)沉淀,依據(jù)大數(shù)據(jù)技術(shù),基于交互大模型的存在,經(jīng)過深度學(xué)習(xí)與調(diào)教,“復(fù)活”出一個(gè)“人”來,并與現(xiàn)實(shí)中的人在某種話語情景中進(jìn)行一些“回應(yīng)”與“交互”,這并不困難。說到底,這種行為僅僅是一種“虛擬仿真”而已,所謂“互動(dòng)”也僅是一種經(jīng)過高速運(yùn)算之后的“例行回復(fù)”,這跟機(jī)器人與人下圍棋相比,并沒有什么本質(zhì)的區(qū)別。在虛擬技術(shù)如此發(fā)達(dá)的今天,面對(duì)這種行為無須感到驚悚,也沒有什么神秘性可言。畢竟,這些被“復(fù)活”的人,并沒有實(shí)現(xiàn)自我進(jìn)化,也沒有產(chǎn)生自我意識(shí),就是一種模擬而已。如果愿意,可以給這些數(shù)據(jù)加以任何的形象。所以,如果作為一種私人行為,做出此種“創(chuàng)舉”,可能最多只是關(guān)乎技術(shù)的倫理問題,甚至連倫理都算不上。
但是,如果這種技術(shù)被深度應(yīng)用到社會(huì)中,卻是值得思索的事情。比如,現(xiàn)在經(jīng)常在新聞上看到模仿領(lǐng)導(dǎo)發(fā)短信、打電話借錢等詐騙行為。隨著對(duì)詐騙犯罪的打擊力度以及公眾反詐意識(shí)的提高,騙子得逞的幾率似乎不高。但是,如果從“猜猜我是誰”進(jìn)化到“聊聊我是誰”“看看我是誰”呢?如果犯罪分子也開始使用這項(xiàng)技術(shù),那才是一種真正的災(zāi)難降臨。畢竟不是所有人都能夠判斷跟你網(wǎng)上溝通的是一個(gè)真實(shí)的人,還是一個(gè)被AI技術(shù)創(chuàng)造出來的“人”。
“復(fù)活”關(guān)乎倫理,而“復(fù)制”則關(guān)乎法律。這才是我們最應(yīng)該警惕的。任何技術(shù)都有其雙面存在,遇到一些突破和發(fā)展,無須過分驚恐。但是應(yīng)該去思考如何引導(dǎo)其走向正途。
(作者為青島科技大學(xué)傳媒學(xué)院副教授、媒介與社會(huì)發(fā)展研究中心負(fù)責(zé)人)
@西南政法大學(xué)民商法學(xué)院副教授鄭志峰:
如果行為人為了悼念目的,“復(fù)活”自己的親人原則不構(gòu)成侵權(quán),但若是出于營利、博眼球、詐騙等違法目的,則可能構(gòu)成侵權(quán)甚至是刑事犯罪。同樣,這類“復(fù)活”內(nèi)容可能會(huì)讓人們對(duì)于生命產(chǎn)生錯(cuò)誤的認(rèn)識(shí),消解對(duì)于生命的敬畏之心,其次也可能造成人類的技術(shù)上癮,不僅不能從中得到慰藉,反而依賴于此,影響其正常生活。
@劉遠(yuǎn)舉:
現(xiàn)在很多人的解讀夸大了焦慮與恐慌,有網(wǎng)友跟帖說“復(fù)活”反映了AI技術(shù)的運(yùn)用亟須進(jìn)一步的監(jiān)管。實(shí)際上,監(jiān)管從來都是不會(huì)缺位的。新事物、新技術(shù)都會(huì)有兩面性,監(jiān)管當(dāng)然是必要的,但監(jiān)管要約束的是可能的負(fù)面因素,而從根本上是要促進(jìn)、鼓勵(lì)發(fā)展新技術(shù)。輿論不能為了吸引眼球故意渲染焦慮和恐慌,這可能會(huì)導(dǎo)致過度的監(jiān)管,影響中國在人工智能領(lǐng)域趕超世界先進(jìn)水平。
@春城:
對(duì)于小伙子因?yàn)閭€(gè)人情感而技術(shù)懷舊的行為,我們不必過度苛責(zé),既沒有突破人倫道德的底線,也沒有用于商業(yè)甚至其他犯罪目的。但是,對(duì)于同樣的技術(shù)未來會(huì)如何挑戰(zhàn)我們的倫理邊界和法律規(guī)范,我們應(yīng)當(dāng)借此有所警惕和預(yù)判。
@西南科技大學(xué)傅淋梅:
生活難免會(huì)有遺憾,博主利用數(shù)字技術(shù)彌補(bǔ)遺憾,可以讓其內(nèi)心更好受一點(diǎn),但生活始終是向前的,不能讓一時(shí)的悲傷,阻擋自己前進(jìn)的步伐。
話題征集
聚焦一周新聞熱點(diǎn)事件,深度思考,理性評(píng)述,百家爭鳴,激濁揚(yáng)清。親愛的讀者,歡迎您參與“評(píng)論區(qū)”的話題討論,無論是微言片語還是長篇大論,我們都期待您來一吐為快。
郵箱:
bandaobianjibu@163.com