觀察員
-
院士何積豐：應(yīng)對(duì)大模型的安全問題，需設(shè)好“緊箍咒”
模型的通用能力讓其能夠應(yīng)用到人類生產(chǎn)生活的各個(gè)場景中，可謂“無孔不入”。AI的發(fā)展因此帶來了新的安全隱私問題，如何解決這一隱患，9月7日開幕的2023 INCLUSION·外灘大會(huì)上，中國科學(xué)院院士何積豐開出了他的“藥方”：利用對(duì)齊技術(shù)為大模型戴上緊箍咒。
何積豐院士認(rèn)為，大模型的安全問題主要是在未經(jīng)同意的情況下，收集、使用和泄露個(gè)人信息。隱私問題既可能發(fā)生在訓(xùn)練過程，也可能發(fā)生在使用過程中，而大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護(hù)更加困難。
中國科學(xué)院院士何積豐
“為了應(yīng)對(duì)這些問題，我們需要大模型對(duì)齊技術(shù)?！焙畏e豐說，“對(duì)齊（alignment）”是指系統(tǒng)的目標(biāo)和人類價(jià)值觀一致，使其符合設(shè)計(jì)者的利益和預(yù)期，不會(huì)產(chǎn)生意外的有害后果。“如果把人工智能看作西游記里的孫悟空，‘對(duì)齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術(shù)不會(huì)任意使用能力胡作非為?！?
不過，對(duì)齊技術(shù)同樣面臨挑戰(zhàn)。首先，對(duì)齊的基礎(chǔ)，人類的價(jià)值觀是多元且動(dòng)態(tài)變化的，需要保證大模型為人服務(wù)、與人為善；其次，大模型的有用性與無害性之間目標(biāo)也不完全一致。如何對(duì)錯(cuò)誤進(jìn)行有效糾正，設(shè)好大模型的“緊箍咒”也是挑戰(zhàn)。
因此，對(duì)齊技術(shù)已經(jīng)成為了一項(xiàng)令人眼花繚亂的跨學(xué)科研究，不僅考驗(yàn)技術(shù)，也審視文化。
何積豐介紹，反饋強(qiáng)化學(xué)習(xí)是實(shí)現(xiàn)對(duì)齊的技術(shù)途徑，目前有兩種方式，一種方式是通過人工反饋給模型不同的獎(jiǎng)勵(lì)信號(hào)，引導(dǎo)模型的高質(zhì)量輸出；另一種方式，事先給大模型提供明確的原則，系統(tǒng)自動(dòng)訓(xùn)練模型對(duì)所有生成的輸出結(jié)果提供初始排序?！斑@意味著，不僅智能系統(tǒng)需要向人類價(jià)值觀對(duì)齊，人類的訓(xùn)練方法也要向價(jià)值觀對(duì)齊?！焙畏e豐說。
本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
標(biāo)簽 外灘大會(huì)- 責(zé)任編輯: 陳濟(jì)深
-
-
-
-
細(xì)則落地！存量首套房貸利率調(diào)整，四大行發(fā)布公告
2023-09-07 11:25 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
全面擁抱大模型，騰訊混元正式亮相
2023-09-07 10:47 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
-
頂風(fēng)作案！340萬股，買回來
2023-09-07 08:58 觀網(wǎng)財(cái)經(jīng)-金融 -
二手車商日子難過：600平米展廳一年上千萬流水只賺1萬元
2023-09-07 08:10 -
網(wǎng)約車圍城：一年之內(nèi)涌入41家平臺(tái)、上百萬名駕駛員
2023-09-07 08:06 觀網(wǎng)財(cái)經(jīng)-汽車 -
莫斯科交易所：8月人民幣交易額環(huán)比增長超30%
2023-09-06 20:02 觀網(wǎng)財(cái)經(jīng)-海外 -
報(bào)告：高凈值人群進(jìn)一步年輕化，“富二代”占比減少？
2023-09-06 17:46 觀網(wǎng)財(cái)經(jīng)-金融 -
國家發(fā)改委上線民間投資問題反映專欄
2023-09-06 17:39 -
?歐洲最大地方政府破產(chǎn)，怎么回事？
2023-09-06 16:09 觀網(wǎng)財(cái)經(jīng)-宏觀 -
旅游需求強(qiáng)勁，攜程二季度營收超2019年同期29%
2023-09-05 18:27 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
杭州今日起實(shí)施“認(rèn)房不認(rèn)貸”
2023-09-05 18:02 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
歐洲車企“焦慮”：這是一個(gè)轉(zhuǎn)折點(diǎn)
2023-09-05 16:59 汽車展 -
華為：網(wǎng)傳“美國邀請(qǐng)任正非去美國”純屬造謠
2023-09-05 16:25 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
華為公開表態(tài)后，諾基亞持有的鼎橋51%股權(quán)不賣了
2023-09-05 14:19 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
手機(jī)寒冬中凈利潤翻倍，小米盧偉冰回應(yīng)“友商回歸”
2023-09-05 07:49 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
沈陽取消限購限售
2023-09-04 22:40 觀網(wǎng)財(cái)經(jīng)-房產(chǎn)
相關(guān)推薦 -
“2027年起，整個(gè)產(chǎn)業(yè)將拱手讓給中國” 評(píng)論 89
“不如申請(qǐng)成中國一省” ，德國鋰企竟如此激將歐盟 評(píng)論 97
美兩員“大將”施壓未果，日本反倒成了“難啃的骨頭” 評(píng)論 93
美國放風(fēng)：伊朗有動(dòng)作了 評(píng)論 90
靠萬斯“決勝一票”，“大而美”法案驚險(xiǎn)闖關(guān)參議院 評(píng)論 185最新聞 Hot-
美方撤銷對(duì)華乙烷出口限制
-
特朗普參觀“鱷魚惡魔島”：拜登就想把我關(guān)在這兒，這XX養(yǎng)的
-
公安部通報(bào)：陳某為吸粉引流編造“工行假金條”，已被依法追責(zé)
-
“2027年起，整個(gè)產(chǎn)業(yè)將拱手讓給中國”
-
特朗普威脅：敢礙事，就逮捕你
-
“7年前就發(fā)現(xiàn)問題了，一直沒修”
-
“不如申請(qǐng)成中國一省” ，德國鋰企竟如此激將歐盟
-
終于換了，特朗普：我很滿意
-
要跟中國對(duì)著干？“剛果（金），別斷送發(fā)展機(jī)遇”
-
美兩員“大將”施壓未果，日本反倒成了“難啃的骨頭”
-
白宮找補(bǔ)：美國很強(qiáng)，不信去問伊朗
-
何君堯：建議給皇后大道、維多利亞公園改名
-
“美國自毀長城，中企憑高性價(jià)比一路高歌猛進(jìn)”
-
兩國矛盾激化，阿媒突然發(fā)文：收到匿名材料，是俄軍擊中的
-
裝不裝空調(diào)，法國政客都能吵起來
-
潛入醫(yī)院裝電詐設(shè)備，騙走30萬！今年已發(fā)生多起
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報(bào)鏈接
- 舉報(bào)制度規(guī)范
- 《網(wǎng)站自律管理承諾書》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號(hào)-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號(hào) 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營許可證：（滬）字第03952號(hào)
增值電信業(yè)務(wù)經(jīng)營許可證：滬B2-20210968 違法及不良信息舉報(bào)電話：021-62376571
滬公網(wǎng)安備 31010502000027號(hào)
中國互聯(lián)網(wǎng)舉報(bào)中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報(bào)中心
