成人免费午夜在线观看,伊人久久精品,一区二区三区精品

尤瓦爾·赫拉利：

是的，今天我想和大家談的是人工智能和人類的未來。

我知道這次會(huì)議的重點(diǎn)是人類正面臨的生態(tài)危機(jī)，而人工智能無論好壞都是這場(chǎng)危機(jī)的一部分。人工智能可以在很多方面幫助我們解決生態(tài)危機(jī)，但也可以加劇危機(jī)。

事實(shí)上，人工智能可能會(huì)改變生態(tài)系統(tǒng)的意義。因?yàn)椋?0億年以來地球的生態(tài)系統(tǒng)只包含有機(jī)生命形式，而現(xiàn)在或不久的將來我們可能會(huì)看到第一批無機(jī)生命形式的出現(xiàn)，或至少是無機(jī)媒介的出現(xiàn)。

自二十世紀(jì)中葉計(jì)算機(jī)時(shí)代開始，人們始終對(duì)人工智能懷有恐懼，這種恐懼激發(fā)了許多經(jīng)典科幻作品的誕生，如《終結(jié)者》《黑客帝國》等。

雖然這類科幻場(chǎng)景已經(jīng)成為文化符號(hào)，但它們通常不會(huì)在學(xué)術(shù)、科學(xué)和政治辯論中被嚴(yán)肅對(duì)待。這也是可以理解的，因?yàn)榭苹米髌芬话銜?huì)作這樣的假設(shè)：人工智能構(gòu)成對(duì)人類的重大威脅之前，它必須躍過兩個(gè)重要的里程碑——

首先，人工智能必須變得有知覺，發(fā)展出意識(shí)、感覺和情感，否則它為什么想要接管世界；其次，人工智能必須適應(yīng)在物理世界中給自己定位，機(jī)器人必須能夠像人一樣高效地在房屋、城市、山脈和森林中移動(dòng)和運(yùn)轉(zhuǎn)，如果他們無法在物理世界中移動(dòng)，那怎么可能接管這個(gè)世界？

在2023年4月之前，人工智能似乎還遠(yuǎn)遠(yuǎn)沒有到達(dá)這兩個(gè)里程碑，盡管人們圍繞ChatGPT和其他新的人工智能工具進(jìn)行了大肆宣傳，但沒有證據(jù)表明這些工具有一絲意識(shí)、感覺或情感。至于在物理世界中活動(dòng)，雖然自動(dòng)駕駛技術(shù)一直算熱門話題，但汽車主宰人類道路的時(shí)間仍一直在推遲。

然而，壞消息是人工智能要威脅人類文明的生存，并不真正需要意識(shí)，也不需要在物理世界中移動(dòng)的能力。在過去的幾年里，新的人工智能工具被運(yùn)用到公共領(lǐng)域，可能會(huì)從一個(gè)非常意想不到的方向威脅到人類文明的生存。我們甚至很難理解這些新型人工智能工具的能力，以及它們持續(xù)發(fā)展的速度。

事實(shí)上，因?yàn)槿斯ぶ悄苣軌蜃晕覍W(xué)習(xí)并自我改進(jìn)，即使是這些工具的開發(fā)者也不知道他們所創(chuàng)造的東西的全部功能，他們自己也經(jīng)常對(duì)這些工具的新能力和高品質(zhì)感到驚訝。

我想在座的每個(gè)人都已經(jīng)了解新型人工智能工具一些最基本的能力，像寫作、繪畫、作曲和編寫代碼等能力。但還有許多其他功能正在涌現(xiàn)，比如深度偽造人們的聲音和圖像，起草法案，找出計(jì)算機(jī)代碼、合同和法律文書中的漏洞。但也許最重要的是，新的人工智能工具有能夠與人類建立深厚而親密的關(guān)系的能力。

這些能力中的每一項(xiàng)都值得充分討論，我們很難理解它們的全部含義，所以把這個(gè)問題簡(jiǎn)單化。如果把所有這些能力當(dāng)作一個(gè)整體，就可以總結(jié)為一個(gè)非常非常大的東西——操縱和生成語言的能力，無論是用文字、圖像還是聲音。

當(dāng)前人工智能革命最重要的方面是，人工智能正在以超過人類平均水平的能力掌握語言。通過掌握語言，人工智能正在掌握打開從銀行到寺廟等所有機(jī)構(gòu)大門的萬能鑰匙。因?yàn)檎Z言是我們用來向銀行發(fā)出指令的工具，也是我們頭腦中做出重大決定的工具。

從另一個(gè)角度來看這個(gè)問題，那就是人工智能剛剛?cè)肭至巳祟愇拿鞯牟僮飨到y(tǒng)。歷史上每一種人類文化的操作系統(tǒng)都是語言，在這個(gè)文明世界的開端，我們用語言創(chuàng)造神話和法律，創(chuàng)造神和金錢，創(chuàng)造藝術(shù)和科學(xué)，創(chuàng)造友誼和國家。

例如，人權(quán)不是生物學(xué)上的客觀事實(shí)，它沒有刻在我們的DNA中，人權(quán)是我們用語言通過講故事和制定法律創(chuàng)造出來的東西；神也不是生物的或物理上的現(xiàn)實(shí)，而是我們?nèi)祟愑谜Z言再通過傳說和經(jīng)文創(chuàng)造出來的；金錢當(dāng)然也不是物理存在，鈔票只不過是一張張毫無價(jià)值的紙，而目前世界上90%以上的錢甚至都不是鈔票，它只是電腦中傳輸?shù)碾娮有畔ⅲ苜x予金錢各種價(jià)值的只有故事。不少銀行家、財(cái)政部長和加密貨幣大佬他們并沒有創(chuàng)造多少真正有價(jià)值的東西，但他們都是極有能力的故事講述者。

今天，在像國際象棋這樣的游戲中，沒有人能打敗計(jì)算機(jī)。如果同樣的事情發(fā)生在我們的政治、經(jīng)濟(jì)甚至宗教領(lǐng)域呢？

當(dāng)人們想到ChatGPT和其他新的人工智能工具時(shí)，經(jīng)常會(huì)被這類例子吸引，比如孩子們使用ChatGPT寫論文。一旦孩子們用ChatGPT寫論文，學(xué)校系統(tǒng)將會(huì)發(fā)生什么？太可怕了。

但這類問題忽略了大局，姑且放下學(xué)校的論文吧，比如說，我們應(yīng)該談?wù)?024年的下一屆美國總統(tǒng)大選，嘗試著想象新的人工智能工具可以帶來的影響，這些工具可以為某種新的邪教利用，大規(guī)模制造政治宣言、假新聞故事和這一教派自己的圣經(jīng)。未來，我們可能會(huì)看到歷史上第一個(gè)由非人類智能創(chuàng)作圣經(jīng)的宗教。

當(dāng)然，歷史上的宗教都聲稱他們的圣經(jīng)是由非人類智慧創(chuàng)作的，這在此之前是不可能的，但很快就會(huì)成為現(xiàn)實(shí)，并影響深遠(yuǎn)。

現(xiàn)在，在一個(gè)更平淡的層面上，我們可能很快就會(huì)發(fā)現(xiàn)和自己在網(wǎng)上長時(shí)間討論墮胎、氣候變化或俄烏沖突的人——你以為是人類同胞，實(shí)際上是人工智能機(jī)器人。

問題是，我們浪費(fèi)時(shí)間試圖說服人工智能機(jī)器人改變其政治觀點(diǎn)是毫無意義的，但我們與它交談的時(shí)間越長，它就越了解我們，了解如何磨練它的信息，以改變我們的政治觀點(diǎn)、經(jīng)濟(jì)觀點(diǎn)或其他任何東西。

通過對(duì)語言的掌握，人工智能也可以與人建立親密關(guān)系，并利用親密的力量來影響我們的觀點(diǎn)。

正如我所說，沒有跡象表明人工智能有任何意識(shí)或自己的感情，但為了與人類建立虛假的親密關(guān)系，人工智能不需要自己的感情，它只需要能夠激發(fā)我們的感情，讓我們對(duì)它產(chǎn)生依戀。

2022年6月，谷歌工程師布萊克·萊莫因（Blake Lemoine）公開聲稱，他正在研究的人工智能聊天機(jī)器人LaMDA已經(jīng)有了感知能力。這件事最有趣的不是萊莫因的說法，他的說法很可能是錯(cuò)的，他最終也失去了工作。真正有趣的是，他愿意冒著失去高薪工作的風(fēng)險(xiǎn)去保護(hù)這個(gè)人工智能聊天機(jī)器人。

如果人工智能可以影響人們?nèi)ッ笆スぷ鞯娘L(fēng)險(xiǎn)，它還能誘使我們做什么呢？

在每一場(chǎng)心靈和思想的政治斗爭(zhēng)中，親密關(guān)系是最有效的武器。人工智能剛剛獲得了與數(shù)億人大規(guī)模產(chǎn)生親密關(guān)系的能力。

你們可能都知道，在過去的十年里，社交媒體已經(jīng)成為控制人類注意力的戰(zhàn)場(chǎng)?，F(xiàn)在，隨著新一代人工智能的出現(xiàn)，戰(zhàn)場(chǎng)正從注意力轉(zhuǎn)向親密關(guān)系，這是一個(gè)非常壞的消息。

當(dāng)人工智能為了與我們建立親密關(guān)系而戰(zhàn)斗時(shí)，人類社會(huì)和人類心理會(huì)發(fā)生什么變化？這些關(guān)系也可以用來說服我們購買特定的產(chǎn)品或投票給特定的政治人物。

即使沒有制造虛假的親密關(guān)系，新的人工智能工具將對(duì)人類的觀點(diǎn)和世界觀產(chǎn)生劇烈的影響，并且成為人類需要的所有信息的來源。