成人免费午夜在线观看,伊人久久精品,一区二区三区精品

上海人工智能實驗室主任助理喬宇認為，大模型還存在很多問題，例如人們常說的“幻覺”、價值對齊、效率等，但社會各界需要用發(fā)展的目光看待AI，安全和發(fā)展是“一體兩翼”的關(guān)系，特別是中國的大模型還處于追趕階段，需要從發(fā)展的角度去看待安全問題。

談及大模型可能存在的價值觀方面的問題，喬宇表示，大模型的價值觀是由訓(xùn)練數(shù)據(jù)得來的，“我們是不是能從訓(xùn)練數(shù)據(jù)端去解決？有些模型用在專業(yè)領(lǐng)域的時候，圍繞這個專業(yè)領(lǐng)域，我們對它有一些安全要求，有可能從中繼承一些。所以要從大模型技術(shù)研發(fā)的不同環(huán)節(jié)來思考安全問題?！?

喬宇強調(diào)，大模型的安全不單單是某一個科研團體、某一個產(chǎn)業(yè)領(lǐng)域或是中國單獨面臨的問題，它是全世界乃至全人類面臨的問題，“所以我認為在安全領(lǐng)域，我們應(yīng)該展開更多的國際交流和合作，來共同面對和解決。”

“聚焦·大模型時代AIGC新浪潮論壇”圓桌討論環(huán)節(jié)

香港中文大學助理教授王歷偉從人才和研究的角度切入，他認為，從人才培養(yǎng)的速度來看，很大的優(yōu)秀科研人員基礎(chǔ)可以降低未來研發(fā)的門檻，訓(xùn)練大模型的算力需求成本看起來也比較樂觀?！拔矣X得從短期或中長期來看，無論是人才儲備還是算力，大模型的研發(fā)門檻可能在慢慢降低。”

王歷偉表示，科研人員需要關(guān)注如何理解和評價大模型的能力，“如果我們持續(xù)從一種評價方式去衡量大模型的能力，可能多多少少還是比較片面?！彼J為，學術(shù)領(lǐng)域人士很適合去更多地探索安全性和AI治理等方向的內(nèi)容。

螞蟻集團機器智能部副總經(jīng)理、螞蟻安全天筭實驗室主任張?zhí)煲肀硎荆竽Ｐ蛶淼娘L險問題不一定是新的問題，但更加深度的應(yīng)用可能造成更全面的影響，包括生成內(nèi)容安全問題、技術(shù)安全、隱私問題、合規(guī)問題以及倫理問題等。

張?zhí)煲碚J為，當前大模型存在三方面的風險，一是技術(shù)相關(guān)問題，模型本身可能被攻擊、被突破、被劫持。二是產(chǎn)業(yè)類風險，AI是否會帶來壟斷、勞動替代等問題。三是內(nèi)容類的問題，是否會向用戶提供不安全的內(nèi)容。

他表示，大模型的風險問題沒有“靈丹妙藥”，必然是一個長期對抗和博弈發(fā)展的過程，“比如說現(xiàn)在安全行業(yè)內(nèi)的一個很直接的應(yīng)用，我們也會用大模型來對抗更多大模型中的風險，這也會是一個‘用魔法打敗魔法’的方向。”

云天勵飛副總裁、AI技術(shù)平臺總經(jīng)理肖嶸則為生成式AI的發(fā)展總結(jié)了四個問題，分別是生成內(nèi)容存在“幻覺”的問題、工具使用和外部知識整合能力、邏輯推理能力和不具備持續(xù)學習能力的問題。

在安全問題上，肖嶸認為，大模型其實具備“價值觀”，它所認定的知識不一定就是事實，“解決這個問題其實有兩個路徑，第一個是它為什么會產(chǎn)生有錯的東西？可能它學的東西都是不對的……所以我們需要對語料有體系地治理，保證其安全、可控。第二個也是我們正在大力推動的，比如對模型輸出的治理。”

但他也強調(diào)，AI是一種工具?！霸綇姶蟮墓ぞ弑挥脕碜鲪海赡苡绊懸苍酱??！毙V說，“我認為，工具用得好不好，更多是人的問題。我們不應(yīng)該因噎廢食，不是看到強大的工具就不去使用，而是更多地想想怎么把它有序化?！?

本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。