成人免费午夜在线观看,伊人久久精品,一区二区三区精品

像中科院聲學(xué)所團隊創(chuàng)立的聲智科技開發(fā)了AI反詐外呼數(shù)字人，每天能撥出去六七萬通勸阻電話；搜索巨頭百度推出基于AI技術(shù)的深偽檢測平臺，對于各種人臉識別、語音識別有99%以上的準確率。

移動支付巨頭支付寶最近也有大動作。在本月的世界人工智能大會上，螞蟻集團的“智能風(fēng)險感知與響應(yīng)聯(lián)合反詐系統(tǒng)”拿下大會最高獎項。螞蟻方面的人員向觀察者網(wǎng)表示，他們這套系統(tǒng)每天會用電話、彈窗提示、防詐騙答題等方法聯(lián)系到40萬被認為是電詐受害者的用戶，牽扯的金額達2千萬，其中有8萬用戶會收到系統(tǒng)撥出的AI電話，這種AI電話有著20%-30%的完播率，收到電話后，七八成的人會放棄當(dāng)前的轉(zhuǎn)賬、付款行為，如果是老年人，放棄轉(zhuǎn)賬的幾率可以提升到90%。

這套反詐系統(tǒng)目前已應(yīng)用于支付寶及其合作伙伴。根據(jù)螞蟻集團發(fā)布《2021反詐騙治理年度報告》，過去一年，支付寶平臺內(nèi)詐騙案件量及欺詐資損下降約4成，其中“注銷校園貸”等新興騙局治理效果顯著，資損下降85%；AI系統(tǒng)已能自動識別50余種詐騙手法，通過技術(shù)支持，向公安機關(guān)移交高危預(yù)警線索79萬條，協(xié)助全國一線反詐民警勸阻保護潛在被騙資金9.9億元。

反詐AI可信嗎？

但是，將AI投入反詐“戰(zhàn)場”也帶來了另一個問題——如何確保這個AI可信？

通常來講，評估AI是否可信有四點，即穩(wěn)定性（也叫魯棒性）、可解釋性、隱私保護和公平性。在月初世界人工智能大會的可信AI論壇上，京東探索研究院院長陶大程對此做了簡單的介紹，穩(wěn)定性強調(diào)的是AI系統(tǒng)要能夠?qū)垢黝惌h(huán)境噪聲以及外部的攻擊；可解釋性指的是AI系統(tǒng)的預(yù)測決策是否透明，能否被人們總結(jié)出來；隱私保護考慮的是AI系統(tǒng)在運作的同時能否有效保護用戶隱私不會被泄露；公平性則是指AI在不斷區(qū)分、評判各種事物的時候是否會形成對某種標簽甚至是人的歧視。

主辦方供圖

在反欺詐這種場景下，AI想讓自己可信無疑更加復(fù)雜。

清華大學(xué)網(wǎng)絡(luò)研究院特別研究員邱寒在一篇文章中指出，僅僅從支付操作本身，很難區(qū)分出是否被騙，因為支付操作往往是賬戶本人在操作；另外，詐騙和反詐騙是一個斗智斗勇的過程，如果碰上騙子們量身定制的“劇本洗腦”，即使能夠識別與攔截單筆交易支付，受騙方往往會選擇換其他的方式繼續(xù)轉(zhuǎn)賬；不僅如此，虛擬貨幣、遠程操控、云語音呼叫等一系列新技術(shù)的加入，往往會使反詐超越AI范疇，成為一場全方位的技術(shù)對決。

螞蟻集團風(fēng)控總監(jiān)王維強給出了評判一個AI模型可信性的三個標準——首先看它的打擾率和準確率，即不能把正常用戶判斷為風(fēng)險用戶，把他們正常的交易行為給否掉；其次看它的魯棒性，也就是抗打擊能力，因為騙子在詐騙過程中會不斷變換手法，所以一個可信AI的識別率必須要保持一個比較高的精準度；最后就是可解釋性，因為只有AI的決策能夠被大家理解，那些風(fēng)險用戶們才會愿意同AI系統(tǒng)進行溝通，從而為接下來的“喚醒”做準備。

王維強

在本屆可信AI論壇上，王維強再次強調(diào)了可解釋性的重要性，并表示除了讓人更好地理解模型，讓模型更好地理解人也是條不錯的技術(shù)路徑。除此之外，他還提到螞蟻正在嘗試探索讓AI去學(xué)習(xí)一些邏輯，從而對用戶的交流做出一些判斷。另外，作為一家已經(jīng)將可信AI投入應(yīng)用的企業(yè)，王維強表示除了魯棒性、可解釋性、隱私保護和公平性，在實際應(yīng)用落地的過程中可信AI同樣離不開數(shù)據(jù)、平臺和運營。

公開信息顯示，螞蟻集團自2015年起投入可信AI技術(shù)的研究，從2016年起搭建“可信AI”技術(shù)框架，并在同一年全面啟動了人工智能風(fēng)控防御戰(zhàn)略。在本屆大會上，螞蟻集團副總裁、首席技術(shù)安全官韋韜表示：“只有人工智能技術(shù)的發(fā)展和安全達到有機融合，才能以高水平安全助力高質(zhì)量發(fā)展。從螞蟻的實踐來看，推動AI智能+專家智能的融合協(xié)同，是實現(xiàn)人工智能在高安全對抗領(lǐng)域?qū)崿F(xiàn)安全可信的關(guān)鍵路徑，”

本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。