成人免费午夜在线观看,伊人久久精品,一区二区三区精品

中國AI發(fā)展如何應對“奧本海默時刻”？

人工智能的高速發(fā)展已經(jīng)是不可逆的文明趨勢，機遇與風險并存，自由與束縛交織。

導演諾蘭在談到他的傳記電影《奧本海默》時便說：“擔憂人工智能的人都對《奧本海默》感興趣。很多頂級的人工智能研究者，將當下視為他們的‘奧本海默時刻’，他們將奧本海默看作一個警示故事。”

奧本海默是美國“原子彈之父”，“奧本海默時刻”則象征著人類在面對重大科技進步或倫理挑戰(zhàn)時，必須深思熟慮并采取措施，來應對潛在的災難性后果。

AI雖然與核能有所不同，但從能量體對人類的重塑角度來看，意味著發(fā)展與安全、和平利用與非和平利用、公域與私域關系重新界定等重大利弊問題的艱難抉擇，其未來的影響甚至大于核能。

張曉也說：“人工智能出現(xiàn)的時候，我們就在想，是否到了‘奧本海默時刻’？”AI發(fā)展的風險到底在哪里？沒有人可以斷言。所以張曉強調(diào)，要“邊發(fā)展邊治理”，“同時治理要給發(fā)展留下足夠的空間”。

中國互聯(lián)網(wǎng)絡信息中心副主任、聯(lián)合國互聯(lián)網(wǎng)治理論壇(IGF)多利益相關方咨詢委員會、中國IGF常務副主任張曉 觀察者網(wǎng)

AI的治理，是否可以從互聯(lián)網(wǎng)治理中借鑒經(jīng)驗？張曉認為，多利益相關方模式是個比較典型的特征?！爸拔覀冋f管理的時候，更多地是垂直的、自上而下的，而我們說治理的時候它更多地是一個平面。”

“新技術是全球化的，不僅涉及政府，還有平臺企業(yè)、用戶個體。在互聯(lián)網(wǎng)剛剛發(fā)展的時候，因為技術門檻很高，先由科學家、技術社群做一些標準，然后商業(yè)介入，最后隨著互聯(lián)網(wǎng)承載了非常多應用以后，看到政府就強勢介入，這個非常重要，因為它承擔著公共角色?！?

曾毅補充說，需要區(qū)分好“發(fā)展”和“野蠻生長”的關系，AI的技術發(fā)展是有方向的，而“野蠻的生長是沒有方向的”。

“比如說，我要訓練一個更強大的AI模型，需要利用世界上的所有數(shù)據(jù)，包括所有人的個人數(shù)據(jù)，這意味著犧牲掉所有用戶的隱私權(quán)。”曾毅說，這就不是發(fā)展，而是“野蠻的生長”。

他強調(diào)，對AI的治理從來不會影響其發(fā)展進程，而是以護航者的角色避免AI“野蠻生長”。同樣，注重AI安全也不會影響其發(fā)展。

在他看來，所謂“平衡安全和發(fā)展”的說法存在問題?！捌胶馐窍嗷コ钢獾囊馑?，好似在說，注重安全，發(fā)展必然受阻。”

但是根據(jù)曾毅團隊近期的實驗，人工智能大模型完全可以在幾乎不影響問題解決正確率的前提下，將安全屬性提升20%-30%。

超級智能看待人類會和人類看待螞蟻一樣嗎？

2023年3月，美國生命未來研究所發(fā)表公開信《暫停巨型人工智能實驗》，提出所有AI實驗室立即暫停訓練比GPT-4更強大的模型至少6個月，以便為制定安全協(xié)議和治理框架爭取時間。曾毅也大體認同這份倡議的內(nèi)容。

“當時很多人問我，我國都還沒有什么像樣的生產(chǎn)式人工智能，你為什么要簽字？是不想讓中國發(fā)展嗎？”

中國科學院自動化研究所研究員、人工智能安全與超級對齊北京市重點實驗室主任、聯(lián)合國人工智能顧問機構(gòu)專家曾毅 觀察者網(wǎng)

曾毅解釋說：第一，這封公開信限制的是比GPT-4更強大的模型，但中國當時連GPT-3級別的模型都沒有，“根本不是去限制中國發(fā)展的”。第二，為公開信簽字屬于自愿承諾，他并不代表中國，而是作為科研工作者認識到了AI發(fā)展的風險。

西塞羅（CICERO）是美國Meta公司開發(fā)的一款AI系統(tǒng)，曾在2022年8月至10月的線上《外交》游戲比賽中取得過極佳的成績，被稱作“第一款在外交領域以人類水平進行游戲的人工智能”。

曾幾何時，外交被認為是AI絕對無法接管的工作。曾毅也說，西塞羅在外交博弈上的進展令他感受到危險。在應對AI災難性風險能力還很薄弱的當時，“不應當用AI來做這些事”。

事實上，自AI進入人類視野以來，人類對與AI關系的憂慮就如同一道難以驅(qū)散的陰影，始終籠罩在文明的上空。

2024年一項針對在頂級AI領域發(fā)表過論文的作者的調(diào)查顯示，37.8%-51.4%的受訪者認為，高級AI導致人類滅絕等嚴重后果的可能性至少為10%。

2001年上映的科幻電影《人工智能》海報，這部由庫布里克籌備多年、又經(jīng)斯皮爾伯格接手執(zhí)導的電影融合了科幻、倫理與情感。