-
曾寫出毀滅人類計(jì)劃書,爆火的ChatGPT是一把“雙刃劍”
-
呂棟lvdong@guancha.cn
最后更新: 2024-05-08 18:10:31【文/觀察者網(wǎng) 呂棟】
這兩天,美國(guó)公司OpenAI推出的ChatGPT成為絕對(duì)的市場(chǎng)焦點(diǎn)。
憑借聊天、咨詢、翻譯甚至寫研報(bào)等類人的智能化表現(xiàn),ChatGPT注冊(cè)用戶很快破億,大有引領(lǐng)新一輪AI浪潮之勢(shì),微軟、亞馬遜、谷歌等科技巨頭紛紛重金布局相關(guān)賽道。
在ChatGPT引爆AIGC(AI生成內(nèi)容)概念后,A股也開始有大量科技公司披露相關(guān)業(yè)務(wù),試圖借機(jī)蹭一波熱點(diǎn),拉抬一下股價(jià)。
四維圖新披露,該公司參股公司普強(qiáng)利用類似ChatGPT的模型、算法和訓(xùn)練的技術(shù),結(jié)合現(xiàn)有的模型算法以及車載相關(guān)的海量數(shù)據(jù),支持了頭部車企的人機(jī)交互服務(wù)。
凡拓?cái)?shù)創(chuàng)透露,該公司開發(fā)和提供的數(shù)智虛擬人、云虛擬展館等產(chǎn)品與AI技術(shù)緊密聯(lián)系,應(yīng)用了ChatGPT、國(guó)內(nèi)AI平臺(tái)等相關(guān)技術(shù)。
藍(lán)色光標(biāo)表示,該公司正在積極試用ChatGPT技術(shù),自有虛擬人蘇小妹已經(jīng)介入了AI多輪對(duì)話,AI作詩能力已經(jīng)進(jìn)入技術(shù)測(cè)試階段,未來會(huì)結(jié)合AIGC和終端交互做更多數(shù)字化拓展。
首都在線表示,該公司自主研發(fā)的新一代算力平臺(tái)可為ChatGTP類人工智能應(yīng)用提供算力、算法、云渲染等技術(shù)服務(wù),目前已為國(guó)內(nèi)多家涉及人工智能類客戶提供服務(wù)......
不可否認(rèn),以ChatGPT為代表的新型AI技術(shù)的確具有產(chǎn)業(yè)賦能的潛在價(jià)值。但隨著AI技術(shù)進(jìn)入新的發(fā)展階段,帶來的各種安全隱患也將更甚。
曾寫出“毀滅人類計(jì)劃書”
根據(jù)國(guó)內(nèi)外媒體報(bào)道,ChatGPT最初的爆火源于它在一位工程師誘導(dǎo)下,寫出了毀滅人類的計(jì)劃書,步驟甚至詳細(xì)到入侵各國(guó)計(jì)算機(jī)系統(tǒng)、控制武器、破壞通訊、交通系統(tǒng)等,甚至還給出了相應(yīng)的Python代碼。
ChatGPT聊天對(duì)話截圖
這并不是聳人聽聞。在ChatGPT推出幾周后,全球已有多家網(wǎng)絡(luò)安全公司發(fā)布一系列報(bào)告,證明該機(jī)器人可能被用于編寫惡意軟件。
截至目前,美國(guó)威脅情報(bào)公司Recorded Future在暗網(wǎng)中已發(fā)現(xiàn)1500多條關(guān)于使用ChatGPT開發(fā)惡意軟件、創(chuàng)建概念驗(yàn)證代碼的參考資料,其中大部分代碼都公開可用。
Recorded Future認(rèn)為,ChatGPT對(duì)于“腳本小子、黑客行動(dòng)主義者、欺詐分子/垃圾郵件發(fā)送者、支付卡欺騙者等技術(shù)水平不高的網(wǎng)絡(luò)犯罪分子”最有幫助,把惡意軟件、釣魚攻擊推向了規(guī)模化時(shí)代。
目前,網(wǎng)絡(luò)釣魚即服務(wù) (PhaaS) 和勒索軟件即服務(wù)(RaaS)可以向攻擊者提供收費(fèi)工具包,使其可以輕松實(shí)施攻擊。而現(xiàn)在ChatGPT則使網(wǎng)絡(luò)犯罪活動(dòng)正經(jīng)歷另一種演變:利用ChatGPT面向公眾免費(fèi)開放的服務(wù),更多危險(xiǎn)正在萌芽,這加劇了對(duì)于未來安全風(fēng)險(xiǎn)的憂慮。
在此背景下,ChatGPT背后的OpenAI日前公開發(fā)聲警告稱,現(xiàn)在需要監(jiān)管機(jī)構(gòu)進(jìn)行介入,以防止ChatGPT等生成式AI系統(tǒng)對(duì)社會(huì)產(chǎn)生潛在負(fù)面影響。
“我們沒有預(yù)料到把‘孩子’送到這個(gè)世界上會(huì)帶來這么大的反響。事實(shí)上,我們對(duì)此感到有些許不安?!監(jiān)penAI首席技術(shù)官M(fèi)ira Murati在對(duì)話中坦言,人工智能可能被濫用,也可能被目的不純之人利用。
作為OpenAI的創(chuàng)始人之一,埃隆·馬斯克也曾警告過先進(jìn)的AI對(duì)人類構(gòu)成的威脅,去年12月,他稱ChatGPT是“可怕的好東西”,并補(bǔ)充稱“我們離危險(xiǎn)的強(qiáng)大人工智能不遠(yuǎn)了?!?
就在近日,國(guó)內(nèi)數(shù)字安全公司三六零也發(fā)布了《全球人工智能安全治理報(bào)告》。
報(bào)告指出,作為一種數(shù)字技術(shù),人工智能“雙刃劍”特征明顯,不僅自身存在數(shù)字安全威脅和隱患,隨著人工智能工程化、場(chǎng)景化、平臺(tái)化落地不斷加快,人工智能安全需求已經(jīng)超越單純技術(shù)范疇。
據(jù)三六零透露,目前360AI安全實(shí)驗(yàn)室所開發(fā)的AI框架安全監(jiān)測(cè)平臺(tái),已累計(jì)發(fā)現(xiàn)Tensorflow、Caffe、PyTorch等主流機(jī)器學(xué)習(xí)框架的漏洞200多個(gè),其中提交給谷歌Tensorflow的漏洞數(shù)98個(gè),包括24個(gè)高危、嚴(yán)重漏洞,在全球各大廠商中排名第一。
市場(chǎng)調(diào)研機(jī)構(gòu)Research And Markets預(yù)測(cè),2030年網(wǎng)絡(luò)安全中人工智能產(chǎn)值將突破千億美元,2020年至2030年將達(dá)到25.7%的年復(fù)合增長(zhǎng)率。隨著ChatGPT等AI技術(shù)產(chǎn)品的普及,AI安全市場(chǎng)將進(jìn)一步爆發(fā)。
百度之后,三六零版ChatGPT也要來了?
雖然犀利地指出了人工智能發(fā)展帶來的潛在安全隱患,但在ChatGPT概念持續(xù)爆火之下,擁有搜索引擎業(yè)務(wù)的三六零,也十分熱衷于推出類似ChatGPT的產(chǎn)品。
- 責(zé)任編輯: 呂棟 
-
ST陽光:控股股東涉嫌內(nèi)幕交易被證監(jiān)會(huì)擬罰款2.32億元
2024-05-07 20:57 -
華為蘋果同日對(duì)決,背后還有中韓面板之爭(zhēng)
2024-05-07 17:23 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
歷史性一幕!iPhone在華市場(chǎng)份額跌出前五
2024-05-07 11:13 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
45億加碼“五五購物節(jié)”,拼多多助力上?!捌础背鼍?/a>
2024-05-06 19:32 -
美國(guó)?Tiktok法案的起草人,引火燒身了
2024-05-06 18:47 觀網(wǎng)財(cái)經(jīng)-金融 -
舒適賽道紅利釋放,紅豆股份品牌轉(zhuǎn)型出成效
2024-05-06 13:33 -
“五一”近3億人次出游,較2019年同期增長(zhǎng)28.2%
2024-05-06 12:16 觀察者頭條 -
巴菲特股東大會(huì)要點(diǎn)來了!回應(yīng)減持蘋果、巨額現(xiàn)金儲(chǔ)備等
2024-05-05 08:28 -
武廣高鐵、滬杭客專等4條高鐵線漲價(jià),漲幅近20%
2024-05-04 14:13 高鐵世紀(jì) -
深圳將取消福田、南山之外區(qū)域住房限購?深圳住建局回應(yīng)
2024-05-04 10:27 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
庫克涉華最新發(fā)聲
2024-05-04 10:14 跨國(guó)企業(yè)在中國(guó) -
20張營(yíng)業(yè)執(zhí)照只有3家實(shí)存?央媒:?jiǎn)栴}在下頭,根子在上頭
2024-05-03 11:21 基層治理 -
上海推出商品住房“以舊換新”活動(dòng)
2024-05-03 09:39 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
中俄東線天然氣管道最新進(jìn)展
2024-05-03 09:30 國(guó)企備忘錄 -
31省份“一季報(bào)”:蘇魯浙增速超6%,山西總量下滑
2024-05-02 21:39 宏觀經(jīng)濟(jì) -
美聯(lián)儲(chǔ)維持利率不變,納指兩連跌星巴克重挫
2024-05-02 07:42 觀網(wǎng)財(cái)經(jīng)-海外 -
南京公積金新政:包括宣城、馬鞍山在內(nèi)的南京都市圈9城互認(rèn)互貸
2024-05-01 19:50 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
美國(guó)當(dāng)前經(jīng)濟(jì)數(shù)據(jù)中,也許藏著高官接連訪華的答案
2024-05-01 09:24 -
余承東不再擔(dān)任華為終端BG CEO
2024-05-01 08:53 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
“超級(jí)充電寶”來了!全球最大,并網(wǎng)發(fā)電
2024-05-01 08:14 產(chǎn)業(yè)萬象
相關(guān)推薦 -
-
“沒客戶!”獲47億補(bǔ)貼后,三星在美芯片廠推遲投產(chǎn) 評(píng)論 22“美國(guó)已解除這項(xiàng)對(duì)華出口禁令” 評(píng)論 271家樂福CEO放話:對(duì)中國(guó)小包裹,要學(xué)特朗普征稅100% 評(píng)論 216“2027年起,整個(gè)產(chǎn)業(yè)將拱手讓給中國(guó)” 評(píng)論 129最新聞 Hot
-
“沒客戶!”獲47億補(bǔ)貼后,三星在美芯片廠推遲投產(chǎn)
-
約翰遜急著表決,民主黨領(lǐng)袖連續(xù)講了6小時(shí),還沒?!?/a>
-
“六代機(jī)機(jī)密會(huì)議,扎克伯格突然闖入”,白宮回應(yīng)
-
8年后,默克爾吐槽特朗普:真裝!
-
美軍評(píng)估又變了,“不是幾個(gè)月是兩年”
-
“即使特朗普下臺(tái),美國(guó)政策也不會(huì)變,中日韓要合作”
-
“船到橋頭自然直”,印外長(zhǎng)回應(yīng)美議員
-
俄海軍副總司令陣亡
-
“在越南的中國(guó)制造商松了一口氣”
-
他倒戈后就躲起來了,電話都不接,同僚評(píng)價(jià):聰明
-
“美國(guó)已解除這項(xiàng)對(duì)華出口禁令”
-
“印軍將全面排查中國(guó)產(chǎn)零部件”
-
美國(guó)和盟友鬧掰?“本質(zhì)沒變,中國(guó)需高度警惕”
-
斯塔默不吱聲,英財(cái)相當(dāng)場(chǎng)落淚,“哭崩”市場(chǎng)
-
家樂福CEO放話:對(duì)中國(guó)小包裹,要學(xué)特朗普征稅100%
-
莫迪表態(tài):金磚是重要平臺(tái)
-