成人免费午夜在线观看,伊人久久精品,一区二区三区精品

2025年2月于法國巴黎召開的人工智能行動峰會(Paris AI Action Summit)，在這個系列會議中得到了更高的關(guān)注和更多國家的支持，這首先得益于在國家參與方面更高的包容性，使得巴黎峰會最終聚集了80國領(lǐng)導(dǎo)人與超過100個國家的各界代表的參與。

可以理解的是，法國召開人工智能的旗艦會議希望全面推進人工智能的科學(xué)、應(yīng)用、文化、治理等諸多方面的進展，但人工智能政產(chǎn)學(xué)研領(lǐng)域已有諸多綜合性的國際會議。而相比其他會議，從布萊切利開始的人工智能峰會系列的最大價值，正是會議聚焦人工智能安全與風(fēng)險。

雖然在此屆峰會名稱上沒有明確體現(xiàn)安全，但是若考慮法國倡導(dǎo)推進“行動(Action)”作為焦點，卻不能得到這屆會議完全忽視安全與風(fēng)險議題的結(jié)論。

事實是，人工智能行動峰會主會公開日的議程有諸多相關(guān)議題，包括但不限于”隱私、網(wǎng)絡(luò)安全與信息完整性： “利用人工智能保護民主制度”、“加強高效、有效且包容的全球人工智能治理”、“構(gòu)建可信人工智能：從自愿承諾到協(xié)作實踐準(zhǔn)則”、“邁向安全可信的人工智能：企業(yè)承諾”、“邁向安全可信的人工智能：歐盟協(xié)作實踐準(zhǔn)則”、“人工智能的國際治理”、“為網(wǎng)絡(luò)和人工智能安全構(gòu)建開源未來”等主會場議題和峰會正式專題研討會，覆蓋峰會當(dāng)天1/3議題。

可也不能說本屆峰會在人工智能安全方面是成果豐碩的，畢竟在安全方面的實際產(chǎn)出沒有像《布萊切利宣言》、《前沿人工智能安全承諾》這樣的代表性工作。

人工智能行動峰會主會日，與法國總統(tǒng)人工智能行動峰會特使Anne女士合影，她2024年底訪問北京并邀請中國政產(chǎn)學(xué)研各方代表參加行動峰會。

人工智能行動峰會科學(xué)日舉辦“人工智能、科學(xué)與社會(AI, Science and Society)”大會，集結(jié)了法國人工智能科技與政策最富盛名的相關(guān)單位共同組織，由法國巴黎理工學(xué)院、法國科學(xué)院、法國國家信息與自動化研究院、巴黎高等商學(xué)院領(lǐng)銜，是在科學(xué)層面推進人工智能行動本屆大會最值得關(guān)注的。

會議專門組織了人工智能安全科學(xué)(Science of AI Safety and Security)議題的若干研討環(huán)節(jié)，主要包括“前沿人工智能安全閾值”、“國際人工智能安全報告”、“可信人工智能國際標(biāo)準(zhǔn)”三個主要研討。

嚴(yán)格意義上雖然不能算是法國人工智能行動峰會的主要成果，但是“國際人工智能安全報告(International Report on AI Safety)”借助人工智能行動峰會科學(xué)日，確實贏得了更多關(guān)注。

該報告由英國人工智能安全研究所主導(dǎo)，邀請包含中國在內(nèi)的30個國家學(xué)者和機構(gòu)參加，曾于人工智能首爾峰會（AI Seoul Summit）發(fā)布中期報告。我有幸作為報告中代表中國的專家指導(dǎo)委員會委員，參與該報告的全過程。

在峰會科學(xué)日的人工智能安全科學(xué)研討環(huán)節(jié)，大會邀請了報告主席Yoshua Bengio對報告進行介紹，并邀請了來自美、中、法的代表共論人工智能安全的未來。

《國際人工智能安全報告》的科學(xué)貢獻Yoshua Bengio做了詳細(xì)的介紹，百位學(xué)者參與的科學(xué)報告至少在人工智能領(lǐng)域是一個壯舉。我被主持人問及，我們的報告中哪個風(fēng)險是最重要的或者最具威脅的。我的回應(yīng)是：“首先，這如同全球可持續(xù)發(fā)展目標(biāo)的17個目標(biāo)，其中一個失敗了，可持續(xù)發(fā)展目標(biāo)就是失敗了，社會都沒有實現(xiàn)可持續(xù)。其次，前沿人工智能模型目前具備認(rèn)知功能自動升級和演化的能力，這意味著對人工智能風(fēng)險的分級將很難真正控制風(fēng)險的實際等級，因為風(fēng)險及其類型將隨自主認(rèn)知升級失去確定性”。

此外我還談到與《國際人工智能安全報告》一項互補的研究，即由我在中國科學(xué)院自動化研究所和人工智能安全與超級對齊北京市重點實驗室的團隊等單位協(xié)作共同發(fā)布的《全球人工智能安全指數(shù)(Global Index on AI Safety)》報告。

與《國際人工智能安全報告》的互補在于《全球人工智能安全指數(shù)》以國家為單位，給出了40個國家在人工智能安全就緒度的現(xiàn)狀，美、英、中三國名列前茅。

有些學(xué)者聯(lián)系我們說，報告似乎反映出國家的人工智能安全就緒度，整體而言與國家的經(jīng)濟水平似乎密切相關(guān)。我回復(fù)說這正是我們要提醒各個國家的。人工智能的發(fā)展水平可能由于各國經(jīng)濟水平的差異有顯著差異，但是人工智能安全就緒度事關(guān)人工智能是否能夠在相關(guān)國家穩(wěn)健的部署與應(yīng)用，事關(guān)對該國可能造成的不可預(yù)知的潛在風(fēng)險的應(yīng)對。因此即使這些國家在發(fā)展方面尚需積累，但是也要在人工智能安全就緒度方面盡快做好更充分的準(zhǔn)備。

在回顧《國際人工智能安全報告》形成的過程中的點滴時，我還講了一個很有意義的互動。當(dāng)我在顧問專家委員會的會議上指出，目前的報告主要聚焦在大語言模型的風(fēng)險，而對于人工智能規(guī)則推理、自然與腦啟發(fā)的人工智能等不同的人工智能發(fā)展科學(xué)途徑存在的潛在風(fēng)險沒有涉及的時候，Yoshua Bengio指出這也許也是他自己研究上的一種偏向的體現(xiàn)。

作為綜合性的科學(xué)報告，這個理由顯然沒有說服我；然而最終報告明確聚焦在“通用人工智能(General-Purpose AI)”的風(fēng)險上，卻讓我覺得至少更清晰了。

其他途徑發(fā)展的人工智能模型目前尚未具備顯著的“通用人工智能(General-Purpose AI)”特征，在這個階段，可控性方面的風(fēng)險上確實也應(yīng)當(dāng)更聚焦在“前沿通用人工智能模型”。