-
謝耘:治理“生成式人工智能”,相當(dāng)于要管人的思想
最后更新: 2024-05-08 20:15:57誕生于1946年的電子計(jì)算機(jī),把人類帶入了“智能紀(jì)元”。它是一種“意識工具”,不同于人類以往所有的“物質(zhì)工具”。2010年以來,算力資源的量變帶來質(zhì)變,到了2023年,這一變化終于使更多普通人得以感知,也帶來了巨大的治理挑戰(zhàn)。
這方面,中國已經(jīng)開始行動(dòng)。4月11日,國家互聯(lián)網(wǎng)信息辦公室起草的《生成式人工智能服務(wù)管理辦法(征求意見稿)》向社會公開征求意見,意見反饋截止時(shí)間為2023年5月10日。觀察者網(wǎng)就相關(guān)話題對話清華大學(xué)電子工程系博士、中科院工程序列任職資格評審委員會主任、北京東方通科技股份有限公司首席科學(xué)家謝耘,實(shí)錄如下:
觀察者網(wǎng):3月份以來,基于OpenAI自然語言大模型GPT3.5的ChatGPT成為焦點(diǎn)。它不但引爆輿論、席卷國內(nèi)資本市場,而且讓國家互聯(lián)網(wǎng)信息辦公室迅速起草《生成式人工智能服務(wù)管理辦法(征求意見稿)》并公開征求意見。我們也想請您就這個(gè)話題做一些討論,您認(rèn)為,從社會治理角度來說,挑戰(zhàn)主要來自哪里?
謝耘:這是一個(gè)比較大也比較深刻的話題。我此前在不同場合說過,信息技術(shù)為人類帶來了一種“意識工具”,它不同于人類以往所有的“物質(zhì)工具”,因此,誕生于1946年的電子計(jì)算機(jī)把人類帶入了“智能紀(jì)元”。只不過,它之前的能力還比較弱小,很多人沒有意識到這種變化的重要性,但是2010年以來,算力資源的量變帶來質(zhì)變,到了2023年,這一變化終于使更多普通人得以感知。
為了便于理解,我想稍微展開一下,先從信息技術(shù)的本質(zhì)說起?,F(xiàn)在主流的科技界認(rèn)為,信息是構(gòu)成世界的三大要素之一,一是物質(zhì),一是能量,一是信息。雖然這個(gè)說法寫進(jìn)了標(biāo)準(zhǔn)的教科書,但我認(rèn)為這是錯(cuò)的,至少“信息技術(shù)”涉及的信息不是客觀的。舉個(gè)例子,人類曾經(jīng)擁有的儲藏知識信息最集中的地方是什么?是圖書館。那么,假設(shè)人類消失了,圖書館里所有的藏品還具有任何“信息”的意義嗎?那些紙上印的也罷,數(shù)字化的也罷,它還會和客觀世界的任何東西發(fā)生互動(dòng)嗎?所以,信息是人的意識層面的東西。
再來談?dòng)?jì)算機(jī),計(jì)算機(jī)本質(zhì)上是用于對數(shù)字化的信息做可編程的邏輯數(shù)值計(jì)算與處理,其中有兩個(gè)要素,第一,是數(shù)字化的信息;第二,對邏輯數(shù)值計(jì)算與處理。
信息,它既是人的意識活動(dòng)的產(chǎn)物,也是人的意識活動(dòng)的最核心要素,信息本質(zhì)上是意識范疇的存在,而與信息相關(guān)的活動(dòng),本質(zhì)上都是意識性的活動(dòng)。
程序,是人們對邏輯數(shù)值的計(jì)算與處理的操作,把這些操作排成序列,用它來處理信息。這個(gè)過程屬于物質(zhì)性過程還是意識性過程?顯然是意識性的過程,它把原來在大腦里進(jìn)行的意識過程外化,變成一段程序,交給計(jì)算機(jī)去做。
這是我基本的分析邏輯。第一,信息屬于意識范疇;第二,與信息相關(guān)的過程本質(zhì)上都是意識過程;第三,計(jì)算機(jī)程序是人的意識的一種外化,計(jì)算機(jī)運(yùn)行的過程,其實(shí)是一種意識性的過程。
原先,所有的意識都局限在人類每個(gè)人的腦袋里,計(jì)算機(jī)的出現(xiàn)讓意識從我們的大腦里蹦出來,從而脫離了我們的大腦,可以由計(jì)算機(jī)的CPU去做,所以,信息技術(shù)應(yīng)用本質(zhì)上就是人的內(nèi)意識的外化,我管它叫“外意識”。這就是計(jì)算機(jī)的“意識性工具”的本質(zhì)。
我們國家有一個(gè)部委的名稱是“工業(yè)和信息化部”,大家有沒有注意過,這個(gè)名字很奇怪?我的看法是,它意味著信息化這個(gè)概念是沒法包含在工業(yè)范疇內(nèi)的?;赝祟惪茖W(xué)技術(shù)發(fā)展的總過程,科技是第一生產(chǎn)力,人類文明的發(fā)展是由工具的不斷進(jìn)步來推動(dòng)的,直到電子計(jì)算機(jī)出現(xiàn)之前,我們工具的主線是作用于物質(zhì)對象。人類演化幾十萬年以來,我們所有的工具都是物質(zhì)性的工具,這不是說工具本身是物質(zhì),而是說這個(gè)工具的作用是物質(zhì)性的作用,概無例外。
直到1946年,計(jì)算機(jī)出現(xiàn),人類第一次有了一個(gè)意識性的工具。這個(gè)工具作用的對象不是物質(zhì),而是作用在意識對象上。從此開始,主線發(fā)生了分叉,人類擁有了兩種工具,一種是物質(zhì)性的工具,一種是意識性的工具。這兩種工具不是割裂開的,意識性的工具是建立在物質(zhì)科學(xué)基礎(chǔ)之上的,但反過來,意識性的工具,又可以植入到物質(zhì)性的工具里,比如讓汽車變成智能汽車。
所以我認(rèn)為,人類文明從1946年開始進(jìn)入了一個(gè)全新的紀(jì)元。
但是,人類創(chuàng)造計(jì)算機(jī)的時(shí)候,沒有完全意識到這件事情,一是由于思維慣性,因?yàn)槲覀冎八械墓ぞ叨际俏镔|(zhì)性的工具;二是計(jì)算機(jī)誕生之初還很弱,沒有展現(xiàn)出那么強(qiáng)的顛覆性。直到2010年,計(jì)算機(jī)的算力從量變積累到了質(zhì)變。1976年,美國制造了第一臺超級計(jì)算機(jī),運(yùn)算速度是每秒1億次浮點(diǎn)運(yùn)算,中國1983年造了第一臺超級計(jì)算機(jī),也是每秒1億次浮點(diǎn)運(yùn)算。這都是當(dāng)年的國之重器,這樣的算力,只能勉強(qiáng)處理圖片,但我們今天的每部手機(jī)都能處理視頻,這不是一個(gè)數(shù)量級的進(jìn)步。
在2010年前,信息產(chǎn)業(yè)業(yè)界最大的事情往往是英特爾發(fā)布了新的處理器,今天,沒有人再關(guān)心處理器的問題,因?yàn)樗懔O大豐富了。也就是在2010年前后,大數(shù)據(jù)應(yīng)用涌現(xiàn)了,因?yàn)樗懔δ軌蛑瘟耍蝗斯ぶ悄軣崞饋砹?,因?yàn)槿斯ぶ悄鼙举|(zhì)上是一個(gè)數(shù)據(jù)統(tǒng)計(jì)技術(shù),也需要大量算力。2010年之后,計(jì)算機(jī)硬件的能力不再制約軟件的發(fā)展,信息技術(shù)產(chǎn)業(yè)“意識性”的特質(zhì),自此才逐步顯現(xiàn)出來,無論是區(qū)塊鏈,還是深度學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò),這些創(chuàng)新都是不受物理規(guī)律限制的,因?yàn)樗且环N意識范疇的創(chuàng)新。
回到你的問題,“生成式人工智能”帶來的挑戰(zhàn),實(shí)際上起始于1946年“智能紀(jì)元”的開端,它是人類社會共同面臨的一次變革,只不過現(xiàn)在才顯現(xiàn)出來。
計(jì)算機(jī)是一個(gè)意識工具,這是一個(gè)非常本質(zhì)的事情,帶來的挑戰(zhàn)非常大,要治理“生成式人工智能”,相當(dāng)于要管人的思想。幾千年來,人類對于怎么管理物質(zhì)還是積累了足夠多的經(jīng)驗(yàn),一旦涉及到精神意識層面,其實(shí)就有點(diǎn)亂。從倫理、道德、宗教、意識形態(tài)、各路學(xué)說等等,都是這樣,這不光是中國的問題,美國對互聯(lián)網(wǎng)的治理同樣亂象叢生,因?yàn)槿祟悰]有對意識領(lǐng)域的治理積累足夠的經(jīng)驗(yàn)。
觀察者網(wǎng):我插一個(gè)小問題,您剛才舉的一個(gè)例子說,圖書館是人類信息的集中地,如果我們順著這個(gè)思路,那么在人類發(fā)展的歷史中,其實(shí)已經(jīng)有若干次這樣的信息爆炸,也伴隨著時(shí)代變化的挑戰(zhàn),首先是出現(xiàn)文字,然后是紙的發(fā)明,接著是印刷術(shù),然后是活字印刷術(shù),那么計(jì)算機(jī)或者人工智能帶來最新的一次信息爆炸,一是必然帶來社會變革,二是只是一系列挑戰(zhàn)之一,能否這樣理解?
謝耘:我們可以說,這些某種意義上也是信息的革命,比如出現(xiàn)文字,但它只是“信息”的記錄和傳播,也就是說記錄和傳播“意識的產(chǎn)物”,比如報(bào)紙上的文章,它已經(jīng)是靜態(tài)的東西了。但信息技術(shù)處理的是意識的活動(dòng),它是“活的”,在這個(gè)意義上,它完全上了一個(gè)檔次。
觀察者網(wǎng):能不能認(rèn)為這是生產(chǎn)力發(fā)展對生產(chǎn)關(guān)系的一個(gè)挑戰(zhàn)?
謝耘:我覺得這要從兩方面看,首先,它是生產(chǎn)力的一種發(fā)展,傳統(tǒng)的生產(chǎn)力指的是通過物質(zhì)性工具創(chuàng)造物質(zhì)財(cái)富的手段,那么,信息技術(shù)作為意識性工具,它能賦能物質(zhì)性工具,提高其創(chuàng)造物質(zhì)財(cái)富的能力。
信息技術(shù)的發(fā)展已經(jīng)讓所有人受益。幾年前施瓦布提出“第四次工業(yè)革命”,新材料、新能源等等領(lǐng)域的新發(fā)展,背后真正的推動(dòng)力都是信息技術(shù)。
近年來,材料科學(xué)發(fā)展突飛猛進(jìn),因?yàn)橛?jì)算機(jī)可以做大量模擬,不像傳統(tǒng)那樣需要做大量物理、化學(xué)實(shí)驗(yàn),節(jié)省大量時(shí)間和資源成本。
再比如說醫(yī)療,現(xiàn)在的影像醫(yī)學(xué)與人工智能的結(jié)合速度非???,極大提升了診斷效率。
信息技術(shù)解決了工業(yè)社會一直無法解決的一對矛盾,就是大規(guī)模生產(chǎn)與個(gè)性化無法統(tǒng)一的問題。信息技術(shù)賦能產(chǎn)業(yè)鏈之后,大規(guī)模的個(gè)性化生產(chǎn)成為可能。而且,定制化生產(chǎn)的衣服比標(biāo)準(zhǔn)化生產(chǎn)的衣服還要便宜。因?yàn)樵跇?biāo)準(zhǔn)化生產(chǎn)中,產(chǎn)能的安排遠(yuǎn)落后于市場需求變化,往往導(dǎo)致大量的庫存積壓,這些成本最后仍然要平攤到消費(fèi)者頭上,但是實(shí)現(xiàn)定制化柔性制造以后,按需生產(chǎn)就成為可能。
所以在以后的社會里,即使一個(gè)人不懂信息技術(shù),他仍然非??赡苁芤嬗谛畔⒓夹g(shù),實(shí)現(xiàn)很多個(gè)人的發(fā)展和追求。因?yàn)樾畔⒓夹g(shù)會成為社會的一個(gè)公共基礎(chǔ),讓所有人受益。
同時(shí),信息技術(shù)的另外一個(gè)屬性并不促進(jìn)物質(zhì)生產(chǎn),而是直接介入了意識形態(tài),比如電子游戲、AIGC等等,雖然沒有產(chǎn)生物質(zhì)財(cái)富,但也能產(chǎn)生經(jīng)濟(jì)活動(dòng)。
-
本文僅代表作者個(gè)人觀點(diǎn)。
- 責(zé)任編輯: 周遠(yuǎn)方 
-
國際首次!“量子模擬的圣杯之一”,我國科學(xué)家取得重大進(jìn)展
2024-05-06 12:12 科技前沿 -
嫦娥六號成功發(fā)射!開啟人類首次月球背面取樣之旅
2024-05-03 17:19 航空航天 -
環(huán)環(huán)相扣、步步關(guān)鍵!嫦娥六號月背出差之旅日程表
2024-05-03 16:22 航空航天 -
今天上午太陽爆發(fā)強(qiáng)耀斑,對我國上空電離層產(chǎn)生影響
2024-05-03 14:09 天文 -
嫦娥六號任務(wù)首選窗口瞄準(zhǔn)今日17時(shí)27分發(fā)射
2024-05-03 07:39 航空航天 -
嫦娥六號計(jì)劃5月3日發(fā)射
2024-05-01 18:26 航空航天 -
準(zhǔn)備就緒!嫦娥六號完成發(fā)射前最后一次系統(tǒng)間全區(qū)合練
2024-05-01 15:52 航空航天 -
幣安創(chuàng)始人趙長鵬被判4個(gè)月監(jiān)禁
2024-05-01 10:10 瘋狂比特幣 -
中美研究合作:核聚變實(shí)驗(yàn)實(shí)現(xiàn)兩方面關(guān)鍵技術(shù)突破
2024-04-30 07:33 科技前沿 -
-
“5臺ASML極紫外光刻機(jī)就相當(dāng)于2022年歐盟對華葡萄酒出口總額”
2024-04-27 09:01 觀網(wǎng)財(cái)經(jīng)-海外 -
刷新紀(jì)錄!這一國產(chǎn)芯片交付
2024-04-26 09:13 科技前沿 -
?華為官宣:盤古大模型5.0將和“純血鴻蒙”一同亮相
2024-04-25 10:37 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
楊利偉獲得錢學(xué)森最高成就獎(jiǎng)
2024-04-24 15:36 航空航天 -
“80后”神十八乘組亮相 簡歷來了
2024-04-24 11:13 航空航天 -
中國將實(shí)施國內(nèi)首次在軌水生生態(tài)研究項(xiàng)目
2024-04-24 09:40 航空航天 -
《三體》重要情節(jié)被驗(yàn)證?中國科學(xué)家首次觀測到電磁波動(dòng)態(tài)傳播
2024-04-23 20:29 三體 -
神舟十八號任務(wù)完成全區(qū)合練 發(fā)射場做好應(yīng)對風(fēng)沙天氣準(zhǔn)備
2024-04-23 12:55 航空航天 -
阿斯麥:不走了,就在荷蘭擴(kuò)張
2024-04-23 11:08 觀網(wǎng)財(cái)經(jīng)-海外 -
神十八發(fā)射場區(qū)全系統(tǒng)合練,近日將擇機(jī)發(fā)射
2024-04-21 16:56 航空航天
相關(guān)推薦 -
“美國已解除這項(xiàng)對華出口禁令” 評論 277最新聞 Hot
-
“聽到東方驚雷了嗎?那是14億中國人在笑話美國”
-
“以色列和俄羅斯正進(jìn)行秘密會談”
-
“不同于西方,中國正建設(shè)由技術(shù)驅(qū)動(dòng)的福利模式”
-
中國駐泰國大使館:被騙至緬甸的男模特已獲救
-
“越南在走鋼絲,稍有不慎,就會惹惱中國”
-
最新民調(diào):4成支持馬斯克成立新政黨
-
美伊下周在挪威談?
-
“俄美有興趣共同實(shí)施經(jīng)濟(jì)領(lǐng)域一些‘有前景的項(xiàng)目’,特別是能源”
-
人才引進(jìn)被舉報(bào)中止1年后,再招考入圍名單與此前一致?包頭通報(bào)
-
特朗普威脅:周五,接關(guān)稅吧
-
“歐洲領(lǐng)導(dǎo)人向我求助,我提了建議”
-
“我簽署時(shí)候,B-2、F-22將從頭頂飛過”
-
天文學(xué)家發(fā)現(xiàn)第三個(gè)進(jìn)入太陽系的“星際訪客”
-
馮德萊恩承認(rèn):來不及談成,退而求其次…
-
特朗普簽署行政令:外國游客得加錢
-
美國解除對華C919發(fā)動(dòng)機(jī)出口禁令
-