-
熊節(jié):拿起手機(jī)時(shí),我們?cè)撊绾闻c算法抗?fàn)帲?/h3>
編者按:近年來(lái),網(wǎng)絡(luò)平臺(tái)算法逐漸從幕后走到臺(tái)前,走進(jìn)公眾的視野?!靶畔⒗O房”從傳播學(xué)的專(zhuān)業(yè)術(shù)語(yǔ),變成人人有所耳聞的概念;“打榜”“買(mǎi)熱搜”不再限于飯圈,背后的相關(guān)產(chǎn)業(yè)也不再是秘密;越來(lái)越多的人意識(shí)到自己被大數(shù)據(jù)“殺熟”,外賣(mài)平臺(tái)通過(guò)算法壓榨騎手的現(xiàn)象也通過(guò)爆款文章傳遍全網(wǎng),引發(fā)熱議,甚至改編進(jìn)影視劇。
11月12日,中央網(wǎng)信辦、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局等四部門(mén)聯(lián)合印發(fā)了《關(guān)于開(kāi)展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專(zhuān)項(xiàng)行動(dòng)的通知》,以治理網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題為主要任務(wù),旨在整治信息繭房、操縱榜單、壓榨騎手、大數(shù)據(jù)殺熟等存在已久、關(guān)注度較高的典型問(wèn)題。
觀察者網(wǎng)對(duì)話華東師范大學(xué)國(guó)際傳播研究院全球南方研究中心主任熊節(jié),他以通俗易懂的方式介紹與我們?nèi)粘I钕⑾⑾嚓P(guān)的算法機(jī)制,提出對(duì)相關(guān)問(wèn)題治理的看法。
【文/觀察者網(wǎng) 劉冶】
觀察者網(wǎng):從用戶(hù)視角來(lái)看,平臺(tái)的各種算法都是“黑箱”,用戶(hù)只能看到算法最終呈現(xiàn)的結(jié)果,而無(wú)法知道算法具體的運(yùn)作機(jī)制;就算知道了,也會(huì)因?yàn)榧夹g(shù)復(fù)雜而難以理解。能否簡(jiǎn)單介紹一下常見(jiàn)的一些平臺(tái)算法?
熊節(jié):可以舉兩個(gè)最常見(jiàn)的例子來(lái)說(shuō)明。
第一個(gè)是內(nèi)容推薦算法。這類(lèi)算法應(yīng)用非常廣泛,從我們打開(kāi)每個(gè)APP的開(kāi)屏廣告,到APP推薦給我們的每條內(nèi)容,都是推薦算法計(jì)算的結(jié)果。推薦算法的運(yùn)作機(jī)制其實(shí)也并不復(fù)雜,甚至可以說(shuō)很簡(jiǎn)單。其實(shí)就是商家(也就是平臺(tái))盡可能掌握用戶(hù)盡可能多的信息,掌握的信息越充分越全面,就可以給用戶(hù)推薦盡可能準(zhǔn)確的信息。這和自古以來(lái)做生意的邏輯其實(shí)也是一樣的。
推薦算法跟自古以來(lái)的每個(gè)老板最大的不同,就是它掌握的關(guān)于用戶(hù)的信息是極其大量的。一般來(lái)說(shuō)平臺(tái)會(huì)給用戶(hù)貼上幾千個(gè)甚至幾萬(wàn)個(gè)這樣數(shù)量級(jí)的標(biāo)簽,比如可以具體到你是否喜歡周杰倫、你是否喜歡五月天、你是否慶祝圣誕節(jié)、你以前圣誕節(jié)是吃飯還是看電影……這么細(xì)節(jié)的信息都可以逐個(gè)貼上標(biāo)簽。
而且各個(gè)平臺(tái)關(guān)于用戶(hù)的信息也是互相流通的,通過(guò)被稱(chēng)為客戶(hù)數(shù)據(jù)平臺(tái)(CDP)的大數(shù)據(jù)系統(tǒng),各個(gè)平臺(tái)都可以很有效地了解用戶(hù)的信息。
這種所有平臺(tái)對(duì)用戶(hù)的全方位的了解,就會(huì)造成所謂“信息繭房”的問(wèn)題。比如說(shuō),每個(gè)平臺(tái)都知道我喜歡《黑神話:悟空》這個(gè)游戲,然后每個(gè)平臺(tái)都想爭(zhēng)奪我的瀏覽量,于是都給我推薦黑猴相關(guān)的文章和視頻。這就會(huì)給我造成一種印象,讓我感覺(jué)好像所有人都在耍猴、都在討論黑猴。這就是一種推薦算法造成的偏見(jiàn)。其實(shí)全國(guó)買(mǎi)了黑猴的也就2000萬(wàn)人,在整個(gè)人口里只是一個(gè)很小的比例。
如果這種偏見(jiàn)發(fā)生在一些社會(huì)和政治問(wèn)題上,就有可能使一些錯(cuò)誤的、偏執(zhí)的想法在一個(gè)信息繭房里被不斷強(qiáng)化和放大,嚴(yán)重的情況下有可能造成社會(huì)的分裂。
另一個(gè)例子是外賣(mài)騎手的派單算法。最近的電影《逆行人生》對(duì)這個(gè)問(wèn)題有很好的展示。算法可以給騎手分配高效的路線,這本來(lái)是件好事。但平臺(tái)同時(shí)又把騎手配送的實(shí)際數(shù)據(jù)輸入回去,根據(jù)實(shí)際數(shù)據(jù)不斷調(diào)高對(duì)騎手的要求,強(qiáng)迫騎手要跑得越來(lái)越快才能保持收入水平。這就形成了對(duì)騎手的壓榨,而且也造成了騎手和顧客之間的緊張關(guān)系。
《逆行人生》截圖
這兩個(gè)例子其實(shí)是有一定的共通性的。在這兩個(gè)例子中,算法都可以?xún)?yōu)化某些計(jì)算結(jié)果(給用戶(hù)推薦什么內(nèi)容、給哪個(gè)騎手派哪一單)。但是“優(yōu)化”首先就要回答一個(gè)問(wèn)題:什么是“優(yōu)”。這個(gè)目的問(wèn)題不是算法本身能回答的,而是使用算法的平臺(tái)賦予它的。如果平臺(tái)的唯一目的是掙錢(qián)、提高利潤(rùn)率,那么信息繭房、壓榨騎手等情況毫無(wú)疑問(wèn)就會(huì)成為達(dá)成掙錢(qián)這一目的不可避免的代價(jià)。
從這個(gè)意義來(lái)說(shuō),用戶(hù)看不懂算法運(yùn)作的內(nèi)部機(jī)制,只能看到算法運(yùn)作的結(jié)果,其實(shí)并不是一個(gè)大問(wèn)題,因?yàn)榇蟊娬嬲枰P(guān)心的就是結(jié)果。如果算法造成的結(jié)果對(duì)社會(huì)不利,它內(nèi)部是怎么運(yùn)作的并不重要,總之就是需要整改。
觀察者網(wǎng):平臺(tái)一般需要從用戶(hù)那里收集哪些信息和數(shù)據(jù)?算法又是如何誘導(dǎo)用戶(hù)提供這些信息的?
熊節(jié):根據(jù)國(guó)家網(wǎng)信辦2019年的《APP違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法》,手機(jī)APP必須清晰列出收集了哪些個(gè)人信息。比如在豆瓣APP的“設(shè)置->已收集個(gè)人信息”菜單下就可以看到,豆瓣APP收集了賬戶(hù)信息、用戶(hù)身份證明信息、生物識(shí)別信息、社交與內(nèi)容信息、用戶(hù)使用過(guò)程信息、設(shè)備信息這6大類(lèi)的信息。
感興趣的用戶(hù)可以自行查看每個(gè)APP收集了自己哪些信息。如果哪個(gè)APP沒(méi)有類(lèi)似的功能,用戶(hù)應(yīng)該是可以向國(guó)家網(wǎng)信辦舉報(bào)的。
按照《個(gè)人信息保護(hù)法》的定義,個(gè)人信息是與已識(shí)別或者可識(shí)別的自然人有關(guān)的各種信息,其中有些信息本身指向個(gè)人或者直接關(guān)聯(lián)到個(gè)人,如姓名、身份證、指紋、面部信息、數(shù)字ID等(稱(chēng)為識(shí)別符),其余的信息本身不具有識(shí)別個(gè)人身份的屬性,但通過(guò)結(jié)合分析或關(guān)聯(lián)分析也可以使信息或數(shù)據(jù)集指向某特定自然人。
一般來(lái)說(shuō),APP在法律許可的前提下,都是能收集的信息盡量收集。我覺(jué)得很難說(shuō)是“算法誘導(dǎo)用戶(hù)提供這些信息”,基本上應(yīng)當(dāng)假設(shè)在使用APP的過(guò)程中所有的信息(甚至包括在某個(gè)頁(yè)面停留了多久這么細(xì)節(jié)的信息)都會(huì)被收集。
觀察者網(wǎng):盡管平臺(tái)在獲取用戶(hù)信息時(shí),都有用戶(hù)須知之類(lèi)的提示條款。但對(duì)于用戶(hù)來(lái)說(shuō),這些條款過(guò)于冗長(zhǎng)和專(zhuān)業(yè),很多時(shí)候并不能辨別出其中的陷阱。再加上平臺(tái)的強(qiáng)制性,如果不同意就無(wú)法使用平臺(tái)功能,用戶(hù)只能被動(dòng)接受。這種情況下,用戶(hù)如何維護(hù)自己的信息安全權(quán)益?
熊節(jié):我認(rèn)為靠EULA(最終用戶(hù)許可協(xié)議)維權(quán)這種做法,本身就是美國(guó)壟斷企業(yè)創(chuàng)造出來(lái)的一種單邊霸權(quán)。第一,有幾個(gè)用戶(hù)會(huì)看這些條款,又有幾個(gè)用戶(hù)能看懂里面的彎彎繞,很少。第二,更關(guān)鍵的是,我看懂了,我覺(jué)得有問(wèn)題,然后我又能干啥?我朋友全都在用微信,領(lǐng)導(dǎo)天天用微信安排工作,我能說(shuō)我覺(jué)得微信的個(gè)人信息保護(hù)條款有問(wèn)題所以我不用微信嗎?
所以EULA這個(gè)東西需要有,但它的意義是明確相關(guān)法律法規(guī)的落地。也就是說(shuō)《個(gè)人信息保護(hù)法》、《網(wǎng)絡(luò)安全法》等等法律法規(guī)在EULA里都有所體現(xiàn)了,然后APP的行為又是按照EULA來(lái)執(zhí)行的,這是一條法律意義上的鏈條。但用戶(hù)真正要維護(hù)信息安全權(quán)益,還是應(yīng)該回到可觀察的外在行為這個(gè)層面上來(lái)。
比如說(shuō)我是淘寶的用戶(hù),我懷疑淘寶是不是在用大數(shù)據(jù)殺我的熟,我用另一個(gè)手機(jī)號(hào)注冊(cè)一個(gè)新用戶(hù),發(fā)現(xiàn)同樣的東西確實(shí)給到新用戶(hù)的價(jià)格比給到我這個(gè)88VIP的價(jià)格還低,那我就可以向網(wǎng)信部門(mén)舉報(bào)淘寶APP大數(shù)據(jù)殺熟。至于說(shuō)它這個(gè)價(jià)格歧視是不是符合EULA的規(guī)定,這個(gè)根本就不重要。
-
本文僅代表作者個(gè)人觀點(diǎn)。
- 責(zé)任編輯: 劉冶 
-
研制成功!我國(guó)這一關(guān)鍵技術(shù)實(shí)現(xiàn)重大突破
2024-12-30 14:59 中國(guó)精造 -
華為:懸賞300萬(wàn)元
2024-12-30 10:08 華為 -
我國(guó)新一代智能高鐵有望2027年落地
2024-12-30 09:02 高鐵世紀(jì) -
“量子”狼不再?lài)槺辣忍貛?/a>
2024-12-30 08:24 心智觀察所 -
又添一大國(guó)利器!“探索三號(hào)”正式入列
2024-12-29 10:44 中國(guó)精造 -
我國(guó)首次實(shí)現(xiàn)!又一重大突破
2024-12-28 21:08 航空航天 -
嫦娥五號(hào)月球樣品向公眾開(kāi)放!
2024-12-28 16:12 航空航天 -
-
登月探測(cè)器“倒栽蔥”,日本公布原因
2024-12-27 12:10 航空航天 -
谷歌量子計(jì)算芯片給了國(guó)內(nèi)產(chǎn)業(yè)界緊迫感
2024-12-27 10:57 心智觀察所 -
《心智對(duì)話》直播:世界科創(chuàng)的舊中心與新勢(shì)力
2024-12-23 18:59 觀察者頭條 -
獨(dú)家對(duì)話|周毅恩:必須向“第四大排放國(guó)”下重手
2024-12-22 09:35 心智觀察所 -
《自然》:2025年值得關(guān)注的科學(xué)事件,中國(guó)“讀腦術(shù)”入選
2024-12-20 08:57 科技前沿 -
人類(lèi)首份月背古磁場(chǎng)信息!嫦娥六號(hào)月球樣品最新研究成果發(fā)布
2024-12-20 06:46 嫦娥奔月 -
云計(jì)算這個(gè)美國(guó)對(duì)華封鎖的重點(diǎn)領(lǐng)域,二次長(zhǎng)征勢(shì)在必行
2024-12-19 08:23 心智觀察所 -
首次整機(jī)試驗(yàn)成功!我國(guó)大推力氫氧火箭有突破性進(jìn)展
2024-12-18 18:24 航空航天 -
嫦娥六號(hào)、Sora等入選2024全球十大工程成就
2024-12-18 14:49 科技前沿 -
再次刷新紀(jì)錄!
2024-12-17 22:00 航空航天 -
航行警告:黃海部分海域進(jìn)行火箭發(fā)射
2024-12-17 16:57 航空航天 -
“真假5G”之爭(zhēng),成為了國(guó)產(chǎn)射頻發(fā)力趕超的助推器
2024-12-17 08:28 心智觀察所
相關(guān)推薦 -
操心中國(guó),美國(guó)“黑手”又要伸向馬來(lái)西亞和泰國(guó) 評(píng)論 134特朗普要求“大搞特搞”,美團(tuán)體急了:沒(méi)中國(guó)不行 評(píng)論 129“美國(guó)人,真正該擔(dān)心的時(shí)候到了” 評(píng)論 180直播:算法向善——共話AI與人類(lèi)命運(yùn)共同體未來(lái) 評(píng)論 8“美國(guó)政府像青少年,拿信用卡揮霍,直到…” 評(píng)論 144最新聞 Hot
-
哈馬斯接受?;鹂蚣?,特朗普:好事
-
江蘇:縣級(jí)以下禁止開(kāi)發(fā)政務(wù)服務(wù)APP
-
“家庭主義者”盧特尼克,把歐盟鴿了
-
通話通了個(gè)寂寞?特朗普不滿(mǎn),克宮回應(yīng)
-
“盯上”西非礦產(chǎn),特朗普將會(huì)晤非洲五國(guó)
-
英前防相挑釁:臺(tái)灣問(wèn)題上,西方對(duì)中國(guó)簡(jiǎn)直慫包…
-
操心中國(guó),美國(guó)“黑手”又要伸向馬來(lái)西亞和泰國(guó)
-
“特朗普要想訪華,先把臺(tái)灣問(wèn)題說(shuō)清楚”
-
“對(duì)以色列感到憤怒和警惕,沙特將與伊朗保持和解”
-
特朗普又給日本背后捅刀,逼得臺(tái)積電沒(méi)法了…
-
“大而美”法案通過(guò),馬斯克表態(tài)
-
朱時(shí)茂自曝被騙錢(qián),“我還是反詐大使”
-
英F-35“趴窩”印度機(jī)場(chǎng)20天,快被“玩壞”了…
-
特朗普要求“大搞特搞”,美團(tuán)體急了:沒(méi)中國(guó)不行
-
“美國(guó)人,真正該擔(dān)心的時(shí)候到了”
-
涉及中國(guó),韓企與美國(guó)“一拍即合”
-