成人免费午夜在线观看,伊人久久精品,一区二区三区精品

據(jù)澎湃新聞5月15日報道，去年11月，一篇“看臉識罪犯”的論文令學(xué)術(shù)界和輿論界炸開了鍋。

這篇上傳在預(yù)印本網(wǎng)站arXiv上的論文題為《基于面部圖像的自動犯罪概率推斷》（Automated Inference on Criminality using Face Images）。在實(shí)驗中，上海交通大學(xué)教授武筱林及其博士生張熙選取了1856張中國成年男子的面部照片，其中730張是已經(jīng)定罪的罪犯身份證照片（330張來自網(wǎng)上的通緝令，400張由一家簽署過保密協(xié)議的派出所提供），其余1126張是在網(wǎng)絡(luò)上抓取的普通人照片。經(jīng)過機(jī)器學(xué)習(xí)，算法鑒別出犯罪嫌疑人的準(zhǔn)確率達(dá)到89%。

研究使用的照片樣本。a組為罪犯，b組為非罪犯

此后，武筱林收到了雪片般飛來的郵件，有些就學(xué)術(shù)問題進(jìn)行了交流，有些則直接敦促他“撤稿”。而在半年之后，三名美國作者撰寫萬字長文，向武筱林隔空喊話，指責(zé)其研究在搞“科學(xué)種族主義”。

上述三名作者中，Blaise Agüera y Arcas是機(jī)器學(xué)習(xí)領(lǐng)域的著名工程師，2013年從微軟跳槽到谷歌；Margaret Mitchell同樣是谷歌的人工智能研究員；Alexander Todorov則是普林斯頓大學(xué)的神經(jīng)科學(xué)教授。

這篇洋洋灑灑的萬字長文，從提出“天生犯罪人”理論的意大利外科醫(yī)生龍勃羅梭，寫到對猶太人進(jìn)行面相研究的納粹教材，暗指武筱林的研究是這些“前輩”的繼任者。

武筱林

武筱林在文章中，三名美國作者在技術(shù)層面提出了一些質(zhì)疑，譬如實(shí)驗樣本數(shù)據(jù)集過小，容易造成過擬合；罪犯組照片的著裝更為隨意，而非罪犯組的照片很多都穿著襯衫；此外，非罪犯組照片更多地在微笑。但文章最核心的擔(dān)憂是，由于人類司法系統(tǒng)中存在一些歧視（譬如美國司法對白人和黑人存在量刑歧視），用這些帶有歧視的人類數(shù)據(jù)訓(xùn)練機(jī)器，機(jī)器得到的結(jié)果也會是歧視性的。而若將這些內(nèi)嵌歧視的算法用作司法工具，那么就會形成一個歧視性的反饋循環(huán)，讓歧視在社會中更為鞏固。

“基于面部特征的深度學(xué)習(xí)絕不該應(yīng)用為‘加速’司法公正的工具，如果真的這么做的話，反而會讓不公正長存于世?！蔽恼逻@樣結(jié)尾道。

5月14日，武筱林撰文向澎湃新聞進(jìn)行了獨(dú)家回應(yīng)。他指責(zé)這種隔空點(diǎn)名的方式并非“我們所熟悉的學(xué)術(shù)交流”，而是政治斗爭上扣帽子的手法。武筱林提到，他們在論文中明確聲明“沒有興趣也不夠格去解讀實(shí)驗結(jié)果”，卻“被”解讀了。三位美國作者無視聲明，將論文原話斷章取義，湊成主觀臆斷強(qiáng)加于他們，扣上了一頂大帽子。

圖b標(biāo)注了存在差異性的3個特征點(diǎn)。表4為罪犯組和非罪犯組在3個特征點(diǎn)上的平均值和偏離值。

在文章中，武筱林還回應(yīng)了許多網(wǎng)友提出的“把教授自己的臉放進(jìn)去試試”的問題，澄清了一種常見的“基礎(chǔ)概率謬誤”，再次強(qiáng)調(diào)他們的研究無意也無法用于實(shí)踐。

此外，武筱林也對外界的幾點(diǎn)技術(shù)質(zhì)疑作出回應(yīng)。他總結(jié)道，“我們感謝所有針對論文的問題和討論，但堅決反對歪曲我們的初衷”，“這既不專業(yè)，也很傲慢?！?

“僅僅在文章中用到（面相學(xué)）這個詞，就足夠貼一個科學(xué)種族主義的標(biāo)簽了嗎？”這是武筱林的疑問。

人工智能倫理討論無需扣帽子和歪曲事實(shí)

（原文為英文，由澎湃新聞記者翻譯）

2016年11月，我和我的博士生張熙在arXiv上貼出了一篇題為 “Automated Inference on Criminality using Face Images”的論文。該論文在各國學(xué)術(shù)界，尤其是互聯(lián)網(wǎng)上引起了廣泛的關(guān)注和爭議。近日，Arcas等三人在Medium網(wǎng)站上發(fā)表了《相面術(shù)的新外衣》（Physiognomy’s New Clothes）一文。我們贊同三位作者的觀點(diǎn)，即AI研究要有益于社會，但我們也發(fā)現(xiàn)，他們對于我們的工作，尤其是我們的研究動機(jī)和目標(biāo)存在諸多誤讀。

扣帽子（name calling）

該文章（即《相面術(shù)的新外衣》，下同）的作者暗示我們有惡意的種族主義動機(jī)。他們認(rèn)為這種暗示很明顯，導(dǎo)致我們立馬在網(wǎng)絡(luò)上，尤其是中國網(wǎng)民那里成了千夫所指。我們論文里從未宣稱要把我們的研究方法用作司法工具，我們對相關(guān)性的討論也從未延伸到因果關(guān)系。任何以客觀心態(tài)讀過我們論文的人，都會明白我們只是想知道，機(jī)器學(xué)習(xí)是否有潛力像人類一樣，對人臉形成社會性的看法。要知道，這種同時基于觀察者和被觀察者的看法是很復(fù)雜、很敏銳的。

我們的研究是在挑戰(zhàn)機(jī)器學(xué)習(xí)的上限，并將人臉自動識別從生物學(xué)維度（比如種族、性別、年齡、表情等）拓展到社會心理學(xué)維度。我們只是好奇，能否教會機(jī)器復(fù)制人類對陌生人的第一印象（個性、風(fēng)格、器宇等），通過圖靈測試。正如我們在論文中所述，直覺上，我們認(rèn)為對于面部的犯罪性印象是個比較容易測試的選擇，事后證明，這是個不幸的選擇。

“為了驗證我們的假設(shè)，即一個人面部的物理特征與其內(nèi)在特質(zhì)、社會行為間存在相關(guān)性，運(yùn)用現(xiàn)代自動分類器去區(qū)別罪犯和非罪犯，測試其準(zhǔn)確率是非常有說服力的。如果面部特征和社會屬性真的相關(guān)，這兩類人群應(yīng)該是最容易區(qū)分的。這是因為，犯罪需要人格中存在很多不正常（離群值）。如果分類器的區(qū)別率很低，那么我們就能有把握地否定對面部進(jìn)行社會性推定的做法。

令人震驚的是，來自谷歌的作者們將上述段落斷章取義，湊成了下述臆斷強(qiáng)加于我們。

“那些上唇更彎曲，兩眼間距更窄的人在社會秩序上更低級，傾向于（用武和張的原話說）‘人格中存在很多不正常（離群值）’，最終導(dǎo)致在法律上更可能被判定犯罪?！?

我們認(rèn)同“犯罪性”（criminality）這個詞有點(diǎn)尖銳，我們應(yīng)該打上引號的。在使用這個詞的字面意思，把它作為機(jī)器學(xué)習(xí)的參考標(biāo)準(zhǔn)（“ground truth”）的同時，我們沒有警告讀者，輸入的數(shù)據(jù)存在噪點(diǎn)。這是我們的嚴(yán)重疏忽。然而，在論文中我們始終保持了一種嚴(yán)肅的中立性；在引言部分，我們聲明道：

“在本文中，我們無意也不夠格去討論社會偏見問題。我們只是好奇，全自動的犯罪性推定能有多高的準(zhǔn)確率。一開始，我們的直覺是機(jī)器學(xué)習(xí)和計算機(jī)視覺會推翻面相學(xué)，但結(jié)果是相反的?！?

我們清楚地聲明了無意也不夠格去解讀，但卻被來自谷歌的作者們過度解讀了。這不是我們習(xí)慣的學(xué)術(shù)交流方式。此外，我們還后悔不該選擇使用“physiognomy”這個詞。它最接近的中文翻譯是“面相學(xué)”。我們對這個詞在英語國家里固有的負(fù)面涵義不夠敏感。但是，僅僅在文章中用到這個詞就足夠貼一個科學(xué)種族主義的標(biāo)簽了嗎？