成人免费午夜在线观看,伊人久久精品,一区二区三区精品

觀察者網(wǎng)：在人工智能治理領(lǐng)域，有一個(gè)“科林格里奇困境”，即一項(xiàng)技術(shù)的社會(huì)后果不能在技術(shù)生命的早期被預(yù)料到，但當(dāng)技術(shù)已經(jīng)成為整個(gè)經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的一部分時(shí)，對(duì)它的控制會(huì)變得十分困難。這個(gè)困境產(chǎn)生的深層次原因是什么？

張偉強(qiáng)：每一次技術(shù)革新都會(huì)有它的兩面性。從生產(chǎn)力維度看，技術(shù)革新一定對(duì)人類社會(huì)發(fā)展具有促進(jìn)作用，但同時(shí)，也會(huì)形成新形式風(fēng)險(xiǎn)。

某種程度上，科技越發(fā)達(dá)，風(fēng)險(xiǎn)程度反而會(huì)越高。以前我們用石頭木棍作為工具，其帶來的風(fēng)險(xiǎn)是非常有限的?，F(xiàn)在人類在核能開發(fā)利用上取得了很大進(jìn)步，但同時(shí)也把它做成了核武器，風(fēng)險(xiǎn)就顯而易見地不一樣了。人工智能的風(fēng)險(xiǎn)更值得關(guān)注?？苹秒娪啊督K結(jié)者》中設(shè)定了一個(gè)名為天網(wǎng)(Skynet)的人工智能系統(tǒng)，顛覆和破壞了人類社會(huì)發(fā)展。其中有一個(gè)很諷刺的情節(jié)，天網(wǎng)系統(tǒng)啟動(dòng)時(shí)是征求了人類意見的。最終人類在沒有做好完備安全評(píng)估的情況下，貿(mào)然選擇了yes，天網(wǎng)系統(tǒng)被激活，人類社會(huì)開始被反噬。所以我認(rèn)為，人類社會(huì)在技術(shù)發(fā)展面前，首要任務(wù)就是時(shí)刻保持頭腦清醒，也就是時(shí)時(shí)刻刻要意識(shí)到它的兩面性。這種意識(shí)非常重要，不至于被一時(shí)沖動(dòng)沖昏了頭腦。

我國(guó)以及國(guó)際社會(huì)已在采取行動(dòng)。早在2021年，我國(guó)就發(fā)布了《新一代人工智能倫理規(guī)范》。近年來，先后針對(duì)算法、深度合成、生成式人工智能等出臺(tái)管理辦法，探索治理路徑。2023年10月，面對(duì)新一輪人工智能發(fā)展，我國(guó)提出《全球人工智能治理倡議》。2024年3月，聯(lián)合國(guó)大會(huì)通過首個(gè)關(guān)于人工智能的全球決議《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機(jī)遇，促進(jìn)可持續(xù)發(fā)展》。近日，聯(lián)合國(guó)大會(huì)協(xié)商一致通過中國(guó)主提的加強(qiáng)人工智能能力建設(shè)國(guó)際合作決議?？梢哉f，中國(guó)一貫高度重視人工智能治理，并積極推進(jìn)全球人工智能治理進(jìn)程。

你提到的這個(gè)“科林格里奇困境”，我倒認(rèn)為，它不是一成不變的。當(dāng)技術(shù)發(fā)展越來越有能力支撐治理規(guī)則的時(shí)候，此類困境將有希望被化解。例如，對(duì)于人工智能的發(fā)展，我們不僅要有一以貫之的風(fēng)險(xiǎn)意識(shí)，還要有足夠的技術(shù)手段來測(cè)評(píng)它安全與否。當(dāng)我們時(shí)刻可以了解人工智能系統(tǒng)安全性，做到完備評(píng)估后再投入生產(chǎn)，形成治理與發(fā)展并行向前時(shí)，“科林格里奇困境”就被打破了。剛剛我們提到的科幻電影，某種程度上要把它看成是警示片，進(jìn)而不斷提升智能社會(huì)治理能力，只有這樣，才不會(huì)讓它演化成預(yù)告片。我們這一代人正處于決定未來智能社會(huì)走向的重要?dú)v史進(jìn)程中，肩上的責(zé)任還是非常重的。

觀察者網(wǎng)：您如何看待資本市場(chǎng)對(duì)人工智能治理問題的助力？

張偉強(qiáng)：從技術(shù)發(fā)展角度看，未來的未知遠(yuǎn)遠(yuǎn)大于已知，人工智能探索之路存在巨大不確定性。在這個(gè)過程中，需要具有堅(jiān)持不懈的韌性，也需要具有抗失敗風(fēng)險(xiǎn)的能力，因?yàn)闆]有人能夠百之百確定某個(gè)技術(shù)路線最終是不是能走通。但不能因?yàn)榇嬖陲L(fēng)險(xiǎn)，就放棄探索和堅(jiān)持，那樣的話，從開始就失敗了。這種情況下，資本市場(chǎng)的支持就顯得至關(guān)重要。

我非常贊同中央最近提出來“要積極發(fā)展風(fēng)險(xiǎn)投資，壯大耐心資本”。資本在進(jìn)行前瞻性評(píng)估后，需要具有一定的戰(zhàn)略膽識(shí)來支持對(duì)無人區(qū)的探索，人工智能產(chǎn)業(yè)是非常需要耐心資本支持的。

觀察者網(wǎng)：您如何看待人工智能領(lǐng)域的校企合作，包括科技成果轉(zhuǎn)化和人才的對(duì)接？

張偉強(qiáng)：高校智力與產(chǎn)業(yè)實(shí)踐有效銜接、互促發(fā)展，是推進(jìn)人工智能科技成果轉(zhuǎn)化、實(shí)現(xiàn)科技攻關(guān)突破的關(guān)鍵之一。這里面有兩層含義：

一是形成科技成果轉(zhuǎn)化的有效機(jī)制，使得高校優(yōu)秀、前沿的學(xué)術(shù)成果有效轉(zhuǎn)化成為我們的社會(huì)生產(chǎn)力。

二是人才共同培養(yǎng)，全球圍繞人工智能的新一輪科技競(jìng)爭(zhēng)，說到底還是人才的競(jìng)爭(zhēng)。

一方面，高校應(yīng)該在人工智能人才培養(yǎng)上與時(shí)俱進(jìn)，及時(shí)增設(shè)、專設(shè)以人工智能為中心的專業(yè)設(shè)置，教材內(nèi)容、教學(xué)手段等也要及時(shí)更新，確保緊跟技術(shù)前沿。另一方面，企業(yè)需要積極擁抱人工智能帶來的變化，從崗位設(shè)置、人才培養(yǎng)視角前瞻性做好應(yīng)對(duì)。例如，互聯(lián)網(wǎng)時(shí)代，企業(yè)需要網(wǎng)絡(luò)安全管理員，負(fù)責(zé)維護(hù)企業(yè)的網(wǎng)絡(luò)與信息安全。人工智能時(shí)代，企業(yè)即將需要新設(shè)人工智能安全管理員，負(fù)責(zé)維護(hù)大模型等人工智能系統(tǒng)的安全。

觀察者網(wǎng)：回到剛才提到的耐心資本問題。資本需要耐心，但投資方也需要有回報(bào)?，F(xiàn)在大家普遍討論的問題是，無論大模型還是小模型都需要完成商業(yè)閉環(huán)，這也是AI模型能否可持續(xù)發(fā)展的關(guān)鍵。

張偉強(qiáng)：商業(yè)閉環(huán)過程肯定會(huì)經(jīng)歷一段時(shí)間的陣痛期，主要體現(xiàn)在發(fā)展意識(shí)和技術(shù)落地兩個(gè)方面。

從發(fā)展意識(shí)方面看，現(xiàn)在大家越來越能夠意識(shí)到人工智能對(duì)于提高生產(chǎn)力的重要性。舉個(gè)特別現(xiàn)實(shí)的例子，大模型出現(xiàn)不久，就有人突然發(fā)現(xiàn)競(jìng)爭(zhēng)對(duì)手填報(bào)某些報(bào)單比自己效率快了很多，隨后發(fā)現(xiàn)是競(jìng)爭(zhēng)對(duì)手使用了大模型，這就導(dǎo)致情勢(shì)倒逼他也要使用大模型，以免自己落伍。所以從發(fā)展意識(shí)方面看，要么是有預(yù)判性地嘗試，要么是被動(dòng)式地跟進(jìn)，大家最終都會(huì)認(rèn)識(shí)到緊跟技術(shù)發(fā)展潮流的重要性。在這樣的背景下，推動(dòng)人工智能商業(yè)閉環(huán)還是比較樂觀的。

更難的是場(chǎng)景對(duì)接與技術(shù)落地。舉個(gè)例子，一個(gè)采摘蘋果的人工智能系統(tǒng)，要知道什么樣的蘋果是成熟的、哪些蘋果有病蟲害、每個(gè)蘋果的質(zhì)量分級(jí)等等，其實(shí)是非常復(fù)雜的。場(chǎng)景對(duì)接是一件苦差事，要沉下心來去設(shè)計(jì)、去磨合。有一句看似玩笑的話叫做“有多少人工就有多少智能”，折射出來的就是這個(gè)含義。所以，一要做好前期場(chǎng)景引導(dǎo)，使技術(shù)提供者和場(chǎng)景需求者能夠?qū)崿F(xiàn)對(duì)接。二要做好人工智能的“人工”部分，不急于求成，把基礎(chǔ)工作做扎實(shí)。希望這個(gè)陣痛期能夠盡可能縮短，這和大家一起努力、一起協(xié)同是分不開的。

7月5日，上海世界人工智能大會(huì)，華為AI，昇騰AI云服務(wù)、盤古大模型。

@視覺中國(guó)

觀察者網(wǎng)：在這次世界人工智能大會(huì)上，很多專家也在討論通用型人工智能（AGI）還需要多長(zhǎng)時(shí)間才能真正實(shí)現(xiàn)“通用”，有專家判斷說還至少需要20年的時(shí)間。

張偉強(qiáng)：這個(gè)事情至少取決于兩個(gè)方面，一個(gè)是底層技術(shù)路線，包括模型架構(gòu)、核心算法等是不是有突破。另一個(gè)是能源和資源，主要指算力和數(shù)據(jù)能否跟得上。AGI準(zhǔn)確的定義是什么？什么是真正意義上的“通用”？我覺得目前還沒有一個(gè)權(quán)威的定義。簡(jiǎn)單點(diǎn)說，我認(rèn)為如果人工智能發(fā)展到我們可以把它視成一個(gè)普通的人，那就應(yīng)該算得上是AGI了。

一個(gè)集合了人類所有優(yōu)點(diǎn)甚至超越人類的人工智能——超級(jí)人工智能，會(huì)不會(huì)出現(xiàn)以及什么時(shí)候會(huì)出現(xiàn)，現(xiàn)在看還都不太確定。對(duì)于人類來講，每個(gè)人都會(huì)有短板，不太可能有一個(gè)“超級(jí)人”的出現(xiàn)；但對(duì)于超級(jí)人工智能，我認(rèn)為還是有可能出現(xiàn)的。因?yàn)槟惆讶祟愃械闹R(shí)都喂給它，并且它還在決策質(zhì)量（算法）、決策速度（算力）和記憶能力（存儲(chǔ)）等方面占有巨大優(yōu)勢(shì)。

未來AGI會(huì)不會(huì)出現(xiàn)人類所說的意識(shí)？我認(rèn)為會(huì)的。觀察人類意識(shí)，我的思考，是先有需求形成目標(biāo)，才有意識(shí)決定行動(dòng)。比如，餓了的人會(huì)產(chǎn)生填飽肚子的目標(biāo)，那他就會(huì)有去尋找食物的意識(shí)和動(dòng)作。對(duì)于人工智能來講，你給它輸入目標(biāo)，其實(shí)就可以理解為它有了意識(shí)；輸入的目標(biāo)越龐大、越多元，產(chǎn)生復(fù)雜意識(shí)的概率就越大。至于AGI什么時(shí)候會(huì)出現(xiàn)，我認(rèn)為不僅取決于整個(gè)產(chǎn)業(yè)的發(fā)展進(jìn)程，更取決于人類的選擇。

無論未來人類選擇走哪條人工智能發(fā)展路徑，我認(rèn)為，安全都是最基本的底線——人類絕不能被自己的工具破壞了人類社會(huì)本身的美好，要堅(jiān)持高質(zhì)量發(fā)展與高水平安全良性互動(dòng)，絕不能成為“硅基文明”的奴隸。

本文系觀察者網(wǎng)獨(dú)家稿件，文章內(nèi)容純屬作者個(gè)人觀點(diǎn)，不代表平臺(tái)觀點(diǎn)，未經(jīng)授權(quán)，不得轉(zhuǎn)載，否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。