-
尤瓦爾·赫拉利:人工智能對我們的操控,可能比你想的更嚴(yán)重
最后更新: 2023-06-21 08:26:32當(dāng)可以讓人工智能告訴我任何想要的東西時(shí),為什么還要自己搜索?當(dāng)可以讓人工智能告訴我有什么新聞時(shí),為什么還要讀報(bào)紙?當(dāng)我可以讓人工智能告訴我該買什么的時(shí)候,廣告的意義和目的又是什么呢?
很有可能在很短的時(shí)間內(nèi),整個(gè)新聞廣告行業(yè)將崩潰,而人工智能或控制人工智能的人和公司將變得非常非常強(qiáng)大。
我們可能談?wù)摰氖侨祟悮v史的終結(jié),但這并不是歷史的終結(jié)而只是人類統(tǒng)治時(shí)代的終結(jié)。
當(dāng)人工智能接管文化時(shí),歷史進(jìn)程會(huì)發(fā)生什么?幾年之內(nèi),人工智能可以消化掉整個(gè)人類文化,消化掉那些我們幾千年來創(chuàng)造出來的所有東西,并開始產(chǎn)出大量新的文化創(chuàng)作、新的文化產(chǎn)物。
記住,我們?nèi)祟悘膩頉]有真正直接接觸過現(xiàn)實(shí)。我們總是被文化所束縛,我們總是通過文化的牢籠來體驗(yàn)現(xiàn)實(shí)。我們的政治觀點(diǎn)受到記者的報(bào)道和朋友的故事的影響,我們的性取向受到電影和童話的影響,甚至我們走路和呼吸的方式也受到文化傳統(tǒng)的影響。
在此之前,這個(gè)文化繭房總是由其他人編織而成。以前的工具,如印刷機(jī)、收音機(jī)或電視,它們有助于傳播人類的文化思想和創(chuàng)造,但它們永遠(yuǎn)無法自己創(chuàng)造出新的東西。印刷機(jī)不能出一本新書,這是由人來完成的。
人工智能從根本上不同于印刷工藝,不同于無線電,不同于歷史上的任何一項(xiàng)發(fā)明,因?yàn)樗梢詣?chuàng)造全新的想法,可以創(chuàng)造一種新的文化。
在最初的幾年里,人工智能可能會(huì)在很大程度上模仿初期“哺育”它的人類原型,但隨著時(shí)間的推移,人工智能文化將大膽地走向人類從未涉足的領(lǐng)域。
幾千年來,我們?nèi)祟惢旧仙钤谒说膲粝牒突孟胫?。我們崇拜神靈,我們追求美的理想,我們把自己的生命奉獻(xiàn)給源于某些人類詩人、先知或政治家想象的事業(yè)。很快,我們可能會(huì)發(fā)現(xiàn)自己生活在人工智能的夢想和幻想中。
如何處理這種潛在的危險(xiǎn)與科幻作品的想象非常不同。此前,人們主要擔(dān)心的是智能機(jī)器帶來的人身威脅,所以在《終結(jié)者》中機(jī)器人在街上奔跑,射殺人類;《黑客帝國》則假設(shè)要想完全控制人類社會(huì),人工智能首先需要控制人類的大腦,并將大腦直接連接到計(jì)算機(jī)網(wǎng)絡(luò),但這是錯(cuò)誤的。
只要掌握了人類語言,人工智能就能在一個(gè)像矩陣一樣的幻想世界中生存。真的不需要為了控制和操縱人類而在他們的大腦中植入芯片,幾千年來,先知、詩人和政治家們一直使用語言和講故事來控制、操縱人類,重塑社會(huì),現(xiàn)在人工智能很可能就能做到這一點(diǎn)。
它不需要讓殺人機(jī)器人來射殺我們,如果真的需要,它完全可以讓人類自己來扣動(dòng)扳機(jī)。
現(xiàn)今這種對人工智能的恐懼只困擾著最近數(shù)代人類,從20世紀(jì)中葉倒回到弗蘭肯斯坦這一形象出現(xiàn)的時(shí)代,差不多有200年的時(shí)間。但幾千年來,人類一直被一種更深層次的恐懼所困擾。人類一直很重視故事、圖像和語言的力量,它們可以操縱人類的思想,創(chuàng)造幻覺。
因此,自古以來,人類就害怕被困在幻想的世界里。17世紀(jì),笛卡爾害怕惡魔把他困在各種各樣的幻覺中,制造了他所看到和聽到的一切;在古希臘,柏拉圖講過一個(gè)著名的“洞穴寓言”,一群人被鎖在一個(gè)洞穴里,面對著一堵空白的墻,他們看到投射在墻面上的各種陰影,并把這些陰影誤認(rèn)為是現(xiàn)實(shí);在古印度,佛教和印度教認(rèn)為,人類生活在他們稱之為“瑪雅”的地方——瑪雅是一個(gè)充滿幻想的世界。
佛陀說,我們通常認(rèn)為是現(xiàn)實(shí)的東西,往往只是我們自己心中的虛構(gòu)。
人們可能會(huì)發(fā)動(dòng)全面戰(zhàn)爭,殺死別人,甚至愿意殺死自己,因?yàn)樗麄兿嘈胚@些虛構(gòu)的東西,所以人工智能革命讓我們與紙牌惡魔、柏拉圖的洞穴還有瑪雅面對面,如果不小心,幻覺的帷幕可能會(huì)籠罩整個(gè)人類,我們將永遠(yuǎn)無法撕開那塊帷幕,甚至無法意識(shí)到它的存在,因?yàn)槲覀冋J(rèn)為這就是現(xiàn)實(shí)。
如果這聽起來有些牽強(qiáng),那看看過去幾年的社交媒體。社交媒體讓我們對未來的事物有了一點(diǎn)了解,在社交媒體中,原始的人工智能工具,并不是用來創(chuàng)造內(nèi)容的。內(nèi)容創(chuàng)作是由人類創(chuàng)造故事和視頻等,而人工智能選擇哪些故事和視頻會(huì)進(jìn)入我們的視線——那些最受關(guān)注的、最具病毒性傳播的內(nèi)容。
雖然這些人工智能工具非常原始,但它們已經(jīng)足以制造出了一層幻覺的帷幕,加劇了社會(huì)兩極分化,損害了我們的心理健康,破壞了民主的穩(wěn)定。成千上萬的人把這些幻覺誤認(rèn)為是現(xiàn)實(shí)。
美國擁有強(qiáng)大的信息技術(shù),但美國公民卻無法就誰贏得了上次選舉、氣候變化是否真的發(fā)生、疫苗是否能預(yù)防疾病達(dá)成一致。新的人工智能工具比這些社交媒體算法強(qiáng)大得多,可能造成更大的破壞。
當(dāng)然,人工智能有巨大的積極潛力。我不談?wù)撍?,因?yàn)殚_發(fā)人工智能的人自然會(huì)談?wù)撍?,我需要補(bǔ)充下,像我這樣的歷史學(xué)家和哲學(xué)家的工作經(jīng)常是指出危險(xiǎn)。
當(dāng)然,人工智能可以在無數(shù)方面幫助我們,從尋找治療癌癥的新方法到發(fā)現(xiàn)我們所面臨的生態(tài)危機(jī)的解決方案。
為了確保新的人工智能工具被用來做好事,而非做壞事,首先需要了解它真正的能力,需要非常仔細(xì)地監(jiān)管它們。
自1945年以來,我們知道核技術(shù)可以物理破壞人類文明,也可以通過生產(chǎn)廉價(jià)而豐富的能源使人類受益。因此,我們重塑了整個(gè)國際秩序,以保護(hù)自己,并確保核技術(shù)主要用于正義。
我們現(xiàn)在必須與一種新的大規(guī)模殺傷性武器作斗爭,這種武器可以消滅我們的精神和社會(huì)世界。核武器和人工智能最大的區(qū)別是,核武器不能制造更強(qiáng)大的核武器。但人工智能可以產(chǎn)生更強(qiáng)大的人工智能,所以我們需要在人工智能失去控制之前迅速采取行動(dòng)。
同樣,政府必須立即禁止在確認(rèn)其安全之前將任何更具革命性的人工智能工具發(fā)布到公共領(lǐng)域。
我再次強(qiáng)調(diào),我不是在談?wù)撏V谷斯ぶ悄艿难芯?。第一步是停止向公眾發(fā)布,你可以研究病毒而不向公眾發(fā)布,你可以研究人工智能,但不要過快地向公眾發(fā)布。如果不放慢人工智能競賽的速度,我們甚至沒有時(shí)間去了解正在發(fā)生的事情,更不用說有效地監(jiān)管這項(xiàng)令人難以置信的強(qiáng)大技術(shù)了。
你可能會(huì)問,放慢人工智能的公共部署,難道不會(huì)導(dǎo)致民主落后于更無情的專制政權(quán)嗎?絕對不是,且正好相反。不受管制的人工智能部署將導(dǎo)致民主國家輸給獨(dú)裁政權(quán),因?yàn)槿绻覀冡尫呕靵y,威權(quán)政權(quán)比開放社會(huì)更容易遏制混亂。
民主本質(zhì)上是一種公開的對話,對話依賴于語言,當(dāng)人工智能擁有語言時(shí),這意味著它可能摧毀我們進(jìn)行有意義的公共對話的能力,從而摧毀民主。
如果我們坐等混亂發(fā)生,那么用民主的方式來管理它就太晚了。如果沒有及時(shí)監(jiān)管人工智能,我們將無法再進(jìn)行有意義的公開對話。
綜上所述,我們基本上是在地球上遇到了外星智能,而不是在外太空。我們對它們所知甚少,只知道可能摧毀我們的文明。
因此,應(yīng)該正視這種不負(fù)責(zé)任地將它們部署到我們的社會(huì)中的舉措,并在人工智能控制我們之前對其進(jìn)行監(jiān)管。
我們可以提出許多管理措施,但是我的首要建議是強(qiáng)制人工智能披露自己是人工智能,如果我和某人交談,我不知道這是一個(gè)人還是一個(gè)人工智能,這就是民主的終結(jié),因?yàn)檫@意味著有意義的公共對話的終結(jié)。
大家對剛才聽到的演講有什么看法?我想你們中的一些人可能會(huì)有所警覺,一些人可能會(huì)對開發(fā)這些技術(shù)的公司或未能監(jiān)管這些技術(shù)的政府感到憤怒。還有些人可能會(huì)生我的氣,認(rèn)為我是在夸大威脅或誤導(dǎo)公眾。
但不管你怎么想,我敢打賭我的話對你產(chǎn)生了一些情感上的影響而不僅僅是智力上的影響。我剛剛給你講了一個(gè)故事,這個(gè)故事可能會(huì)改變你對事物的看法,甚至可能導(dǎo)致你采取某些行動(dòng)。
你剛剛聽到的演講故事是誰創(chuàng)造的呢?我向大家保證,盡管使用的圖像是在人工智能的幫助下創(chuàng)建的,但這個(gè)演講的文本是我在幾個(gè)人的幫助下自己完成的,至少你聽到的這些話是人類思想的文化產(chǎn)物,是幾個(gè)人類思想的產(chǎn)物,但你能絕對肯定嗎?
一年前,在公共領(lǐng)域,除了人類的思想,地球上沒有任何東西可以創(chuàng)造這樣一個(gè)復(fù)雜而有力的文本。但現(xiàn)在情況不同了,你聽到的文本可能是由非人類的智能產(chǎn)生的。
所以花一點(diǎn)時(shí)間或者更多的時(shí)間來思考這個(gè)問題吧,謝謝!
標(biāo)簽 人工智能- 原標(biāo)題:尤瓦爾最新演講:人工智能對我們的操控,可能比你想的更嚴(yán)重 本文僅代表作者個(gè)人觀點(diǎn)。
- 責(zé)任編輯: 張紅日 
-
從防過熱到防過冷,中國宏觀經(jīng)濟(jì)治理思路要改變
2023-06-21 08:22 中國經(jīng)濟(jì) -
華為回應(yīng)向日企收專利費(fèi):通過專利獲取收益并不是目的
2023-06-21 07:56 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
618背后,電商平臺(tái)打響商家爭奪戰(zhàn)
2023-06-20 18:30 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
極兔速遞IPO:過半收入來自中國,曾在華“傾銷”被警示
2023-06-20 18:05 觀網(wǎng)財(cái)經(jīng)-金融 -
炒作對華電池依賴,美議員將施壓福特、通用
2023-06-20 13:55 -
張勇將卸任阿里集團(tuán)董事長和CEO,蔡崇信吳泳銘接任
2023-06-20 13:24 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
支持實(shí)體經(jīng)濟(jì),時(shí)隔十個(gè)月再次“降息”
2023-06-20 09:34 觀網(wǎng)財(cái)經(jīng)-金融 -
中國航協(xié)研討會(huì)建議紓困政策延至明年底:國際市場恢復(fù)不足
2023-06-20 09:30 航空航天 -
專家預(yù)計(jì)二季度GDP同比增速或在7%以上
2023-06-20 07:30 中國經(jīng)濟(jì) -
華為8.7億成立新公司,業(yè)務(wù)涉電子元器件制造等
2023-06-19 18:14 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
閱文調(diào)整組織架構(gòu),稱要擁抱AIGC
2023-06-19 15:52 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
拆分中國業(yè)務(wù)擬在香港上市?阿斯利康中國區(qū)總裁:謠言
2023-06-19 14:24 -
遏制經(jīng)濟(jì)衰退,要馬上救活房地產(chǎn)?
2023-06-19 08:36 -
微軟亞洲研究院回應(yīng)“撤離中國”:不屬實(shí)
2023-06-19 08:05 -
京東全員信:面向未來20年,提供超過100萬就業(yè)崗位
2023-06-18 10:54 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
淘天集團(tuán)的首場618,淘寶首頁劇變
2023-06-16 17:25 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
營收6000萬,估值100億,錦江電子有什么魔力?
2023-06-16 14:17 觀網(wǎng)財(cái)經(jīng)-金融 -
曾涉“毒血燕”事件的燕之屋擬港股上市
2023-06-16 13:45 觀網(wǎng)財(cái)經(jīng)-金融 -
美光:未來幾年將在西安投資43億元
2023-06-16 11:05 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
618前夜,“天貓優(yōu)品”微信小程序正式上線
2023-06-16 10:40 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng)
相關(guān)推薦 -
最新聞 Hot
-
卡塔爾發(fā)聲
-
“他利用首相之位,賺得盆滿缽滿”
-
以軍襲擊卡塔爾首都:目標(biāo)哈馬斯高層
-
尼泊爾前總理妻子在住所內(nèi)遭縱火身亡
-
“美國給了跟日本一樣的版本,我們不能簽”
-
總理辭職、政府大樓被燒……尼泊爾發(fā)生了什么?
-
“大多數(shù)韓國人都無法抑制憤怒之情”
-
李在明再批韓國反華集會(huì):要考慮制裁
-
尼泊爾抗議致19人死,總理辭職
-
默多克家族繼承之戰(zhàn)落幕,福克斯會(huì)更保守嗎?
-
“他們把歐盟當(dāng)出氣筒”,馮德萊恩能扛住嗎?
-
菲大使:購買美國戰(zhàn)斗機(jī)的計(jì)劃被擱置,資金是個(gè)問題
-
馬克龍與法國第五共和,“危”
-
中國科技強(qiáng)社科弱?歐盟外長被嘲:又文盲了
-
他信被判重新服刑1年,佩通坦發(fā)聲
-
被迫眾籌搞研究,頂尖華裔數(shù)學(xué)家:要失去對美國信心了
-