成人免费午夜在线观看,伊人久久精品,一区二区三区精品

“需要攜手合作，推動人工智能健康發(fā)展”

人工智能技術(shù)發(fā)展日新月異，關(guān)于人工智能的治理、安全等問題也逐漸成為社會各界關(guān)注的新焦點。如何保障人工智能的安全使用？如何讓人工智能更好地為生產(chǎn)生活提供幫助？多位專家在本屆大會開幕式上分享了他們的觀點。

清華大學(xué)蘇世民學(xué)院院長、清華大學(xué)人工智能國際治理研究院院長薛瀾表示，全世界的人工智能發(fā)展存在巨大的鴻溝，不但阻礙全球發(fā)展，也對全球治理造成很大的影響。他認(rèn)為，國際社會需要攜手合作，促進企業(yè)、政府共同推動人工智能健康發(fā)展。

薛瀾指出，聯(lián)合國193個成員國在2015年共同通過了《聯(lián)合國2030年可持續(xù)發(fā)展議程》，提出全球要歷時15年時間讓全球進入到可持續(xù)發(fā)展軌道。去年聯(lián)合國有關(guān)會議透露，完成目標(biāo)的情況不容樂觀，部分目標(biāo)甚至出現(xiàn)倒退的情況。

薛瀾發(fā)表講話視頻截圖

薛瀾說：“有分析表明，人工智能對可持續(xù)發(fā)展的169個子目標(biāo)中的134個有積極的促進作用，也可能對其中59個產(chǎn)生一些不利的影響。我們要從宏觀的角度看待人工智能的積極影響和潛在的不利影響?！?

他表示，如何推動人工智能的健康發(fā)展，盡可能讓它收益最大化，把風(fēng)險降到最低，中國在這些年的實踐中已建立起一個相對完整的體系。在產(chǎn)業(yè)應(yīng)用方面，有一系列法律法規(guī)來推動人工智能合理發(fā)展；針對算法算力以及數(shù)據(jù)治理也有規(guī)則框架；針對具體應(yīng)用場景，也出臺了相應(yīng)的治理規(guī)則。

“我們構(gòu)建了一個多維度、多層次、多領(lǐng)域、多舉措的體系。”薛瀾說。

他強調(diào)，在全球范圍內(nèi)，人工智能發(fā)展還面臨很多挑戰(zhàn)，“一個國家?guī)淼娘L(fēng)險就是全球的風(fēng)險，所以這些問題我們必須共同努力解決。國際社會現(xiàn)在可以說對安全問題非常重視，但對發(fā)展存在的鴻溝，AI鴻溝這方面關(guān)注可能還不夠。應(yīng)該說，有很多工作需要進一步地討論?！?

薛瀾表示，要通過多途徑建立國際交流，加強政府間多邊對話機制，用科學(xué)的力量助力完善國際機制，促進企業(yè)、政府共同推動人工智能健康發(fā)展。

上海人工智能實驗室主任、清華大學(xué)惠妍講席教授周伯文表示，當(dāng)前以大模型為代表的生成式人工智能快速發(fā)展，但隨著能力不斷提升，模型自身及其應(yīng)用也帶來了一系列潛在風(fēng)險的顧慮。

周伯文指出，從公眾對人工智能風(fēng)險的關(guān)注程度來看，首先是數(shù)據(jù)泄露、濫用、隱私及版權(quán)相關(guān)的內(nèi)容風(fēng)險，其次是惡意使用帶來的偽造、虛假信息等相關(guān)的使用風(fēng)險，還有偏見、歧視等倫理問題，是否會對就業(yè)結(jié)構(gòu)等社會系統(tǒng)性問題帶來挑戰(zhàn)，甚至在一些科幻電影中還出現(xiàn)了人工智能失控等擔(dān)憂。

周伯文發(fā)表講話視頻截圖

周伯文表示，這些風(fēng)險有的已初露端倪，但更多是潛在風(fēng)險，防范它們需各界共同努力。他認(rèn)為，有這些擔(dān)憂的根本原因在于目前的人工智能發(fā)展是失衡的，“我們在人工智能安全方面的投入，是遠遠落后于性能的。目前世界上99%的算力用于模型的預(yù)訓(xùn)練，只有不到1%用于安全優(yōu)先的考量。”

他認(rèn)為，人們需要找到人工智能安全優(yōu)先，但又能保證性能長期發(fā)展的技術(shù)體系?！拔覀儼堰@樣一種技術(shù)思想體系叫做‘AI-45度平衡律’。這是指從長期的角度來看，我們要大體上沿著45度的安全與性能平衡發(fā)展，所謂的平衡是指短期內(nèi)可以有波動，但不能長期低于45度?！?

周伯文介紹說，實現(xiàn)“AI-45度平衡率”有多種技術(shù)體系，上海人工智能實驗室近期在探索一條以因果為核心的路徑，并將其取名為可信AGI的“因果之梯”。它將可信AGI的發(fā)展分為三個遞進階段：泛對齊、可干預(yù)、能反思。

其中，泛對齊”主要包含當(dāng)前最前沿的人類偏好對齊技術(shù)；“可干預(yù)”主要包含通過對AI系統(tǒng)進行干預(yù)，探究其因果機制的安全技術(shù)；“能反思”則要求AI系統(tǒng)不僅追求高效執(zhí)行任務(wù)，還能審視自身行為的影響和潛在風(fēng)險，從而在追求性能的同時，確保安全和道德邊界不被突破。

“目前，AI安全和性能技術(shù)發(fā)展主要停留在第一階段，部分在嘗試第二階段，但要真正實現(xiàn)AI的安全與性能平衡，我們必須完善第二階段并勇于攀登第三階段。”周伯文說，“沿著可信AGI的‘因果之梯’拾級而上，我們相信可以構(gòu)建真正可信AGI，實現(xiàn)人工智能的安全與卓越性能的完美平衡?！?

本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。