-
僅用一張貼紙就能在AI前隱身 安全監(jiān)控?cái)z像還安全么?
關(guān)鍵字:導(dǎo)讀最新研究發(fā)現(xiàn),只要一張打印出來的貼紙,就能“欺騙”AI系統(tǒng),讓最先進(jìn)的檢測(cè)系統(tǒng)也無法看到眼前活生生的人。該研究也可能用于現(xiàn)實(shí)的視頻監(jiān)控系統(tǒng),引起熱議。本文轉(zhuǎn)自新智元 編輯:肖琴、大明
一張貼紙讓你在AI面前”隱身“。
來自比利時(shí)魯汶大學(xué) (KU Leuven) 幾位研究人員最近的研究發(fā)現(xiàn),借助一張簡(jiǎn)單打印出來的圖案,就可以完美避開 AI 視頻監(jiān)控系統(tǒng)。
研究人員表示,他們?cè)O(shè)計(jì)的圖像可以將整個(gè)人隱藏起來,不會(huì)讓計(jì)算機(jī)視覺系統(tǒng)發(fā)現(xiàn)。這項(xiàng)研究在YOLO (v2) 的開源對(duì)象識(shí)別系統(tǒng)上進(jìn)行了演示。
如上圖所示,AI 系統(tǒng)成功檢測(cè)到左邊的人,而右邊的人被忽略了。右邊的人身上掛著一塊彩色紙板,在論文中被稱為 “對(duì)抗性補(bǔ)丁”(adversarial patch),正是這塊補(bǔ)丁 “欺騙” 了 AI 系統(tǒng),讓系統(tǒng)無法發(fā)現(xiàn)畫面中還有一個(gè)人。
這種欺騙利用了一種稱為對(duì)抗性機(jī)器學(xué)習(xí)的方法。大多數(shù)計(jì)算機(jī)視覺系統(tǒng)依賴訓(xùn)練 (卷積) 神經(jīng)網(wǎng)絡(luò)來識(shí)別不同的東西,方法是給它提供大量樣本,調(diào)整它的參數(shù),直到它能正確地分類對(duì)象。通過將樣本輸入一個(gè)訓(xùn)練好的深度神經(jīng)網(wǎng)絡(luò)并監(jiān)控輸出,可以推斷出哪些類型的圖像讓系統(tǒng)感到困惑。
他們發(fā)表了題為 Fooling automated surveillance cameras: adversarial patches to attack person detection 的論文,并公布了用于生成圖像補(bǔ)丁的源代碼。
地址:
https://gitlab.com/EAVISE/adversarial-yolo
生成的補(bǔ)丁 (patch)能夠成功地將人在檢測(cè)器視線中隱藏起來。例如,這種攻擊可能被惡意地用來繞過監(jiān)視系統(tǒng),入侵者只要將一小塊硬紙板放在身體前面,面向監(jiān)視攝像頭,就能不被監(jiān)視系統(tǒng)發(fā)現(xiàn)。
研究結(jié)果顯示,這個(gè)系統(tǒng)能夠顯著降低人體檢測(cè)器的精度。該方法在真實(shí)場(chǎng)景中也能很好地發(fā)揮作用。
如下面的 demo 所示,使用 YOLOv2 檢測(cè)拍攝的錄像,畫面中人、椅子、桌子等都被準(zhǔn)確地檢測(cè)出來,但只要拿上這塊 “補(bǔ)丁”,系統(tǒng)就無法檢測(cè)到人。
- 原標(biāo)題:一張貼紙欺騙AI,對(duì)抗性補(bǔ)丁讓人類隱身,監(jiān)控?cái)z像危險(xiǎn)了!
- 責(zé)任編輯:李嘉
- 最后更新: 2019-04-24 18:15:17
-
人類首次檢測(cè)到火星疑似地震
2019-04-24 17:47 航空航天 -
“孫悟空”大戰(zhàn)“阿麗塔”,聯(lián)想Z6 Pro和小米9你選誰?
2019-04-24 17:20 手機(jī) -
廈門大學(xué)成功發(fā)射一枚帶翼回收火箭
2019-04-24 15:51 航空航天 -
“吉林一號(hào)”今年新增20顆衛(wèi)星 將首次海上發(fā)射
2019-04-24 15:48 航空航天 -
中國電信率先實(shí)現(xiàn)首個(gè)5G SA語音通話
2019-04-24 14:28 5G -
SK海力士新增動(dòng)產(chǎn)抵押信息 抵押金額高達(dá)35億美元
2019-04-24 14:25 -
英國將允許華為“有限”參與5G網(wǎng)絡(luò)建設(shè)
2019-04-24 10:46 -
為了京東,劉強(qiáng)東應(yīng)該辭去CEO
2019-04-24 09:49 互聯(lián)網(wǎng)大佬 -
聯(lián)想Z6 Pro發(fā)布,常程:手機(jī)業(yè)務(wù)對(duì)誰來說都是持久戰(zhàn)
2019-04-24 02:00 手機(jī) -
中國空間站公開征集科學(xué)實(shí)驗(yàn)和技術(shù)試驗(yàn)項(xiàng)目
2019-04-23 17:45 航空航天 -
中國聯(lián)通5G國際合作聯(lián)盟:美日德法英等8國企業(yè)加入
2019-04-23 16:13 5G -
進(jìn)軍韓國!華為下月將在首爾開設(shè)5G服務(wù)中心
2019-04-23 13:17 -
氫燃料電池“中國芯”研發(fā)獲得突破
2019-04-23 09:45 中國精造 -
華為推出“世界首款”5G車載模組
2019-04-23 09:18 -
三星:Galaxy Fold將推遲上市做進(jìn)一步改進(jìn)
2019-04-23 08:40 -
格芯宣布出售紐約州300mm晶圓廠,安森美4.3億美元接盤
2019-04-23 08:12 -
華為P30系列臺(tái)灣開賣,引3500人排隊(duì)搶購創(chuàng)紀(jì)錄
2019-04-22 22:24 華為 -
騰訊:登錄新游戲基礎(chǔ)準(zhǔn)入年齡從13周歲提升至16周歲
2019-04-22 20:27 -
首款全國產(chǎn)固態(tài)硬盤控制芯片發(fā)布:讀寫速度500MB/s
2019-04-22 16:43 -
華為將為非洲國家杯推出首個(gè)5G手機(jī)網(wǎng)絡(luò)
2019-04-22 15:52
相關(guān)推薦 -
“美國政府像青少年,拿信用卡揮霍,直到…” 評(píng)論 52“聽到東方驚雷了嗎?那是14億中國人在笑話美國” 評(píng)論 195美國解除對(duì)華C919發(fā)動(dòng)機(jī)出口禁令 評(píng)論 395“沒客戶!”獲47億補(bǔ)貼后,三星在美芯片廠推遲投產(chǎn) 評(píng)論 89最新聞 Hot
-
美方恢復(fù)出口,“不是恩賜也不是讓步,是我們斗爭(zhēng)來的”
-
“美國政府像青少年,拿信用卡揮霍,直到…”
-
“聽到東方驚雷了嗎?那是14億中國人在笑話美國”
-
“以色列和俄羅斯正進(jìn)行秘密會(huì)談”
-
佩通坦基本盤還穩(wěn)嗎?泰國權(quán)力天平傾向何方
-
“不同于西方,中國正建設(shè)由技術(shù)驅(qū)動(dòng)的福利模式”
-
中國駐泰國大使館:被騙至緬甸的男模特已獲救
-
“越南在走鋼絲,稍有不慎,就會(huì)惹惱中國”
-
最新民調(diào):4成支持馬斯克成立新政黨
-
美伊下周在挪威談?
-
“俄美有興趣共同實(shí)施經(jīng)濟(jì)領(lǐng)域一些‘有前景的項(xiàng)目’,特別是能源”
-
人才引進(jìn)被舉報(bào)中止1年后,再招考入圍名單與此前一致?包頭通報(bào)
-
特朗普威脅:周五,接關(guān)稅吧
-
“歐洲領(lǐng)導(dǎo)人向我求助,我提了建議”
-
“我簽署時(shí)候,B-2、F-22將從頭頂飛過”
-
天文學(xué)家發(fā)現(xiàn)第三個(gè)進(jìn)入太陽系的“星際訪客”
快訊- 抗戰(zhàn)史上的今天:7月4日
- 作為中國農(nóng)業(yè)的“芯片”,國產(chǎn)種子也需要DeepSeek時(shí)刻
- 抖音新規(guī):未滿16周歲禁止出鏡直播
- 字節(jié)跳動(dòng)新加坡員工食物中毒案:云海肴CEO認(rèn)罪,問題雞丁病菌超標(biāo)2000倍
- 網(wǎng)傳美團(tuán)秘密籌備“快樂猴”硬折扣超市,對(duì)標(biāo)盒馬NB
- 佩通坦基本盤還穩(wěn)嗎?泰國權(quán)力天平傾向何方
- 《“全球南方傳媒聯(lián)合體”倡議書》全文
- 影石Insta360攜手寶馬發(fā)布X5聯(lián)名款全景相機(jī),摩托車全生態(tài)即將全面更新
-