原標(biāo)題:美國藥店零售巨頭秘密部署人臉識別系統(tǒng)達(dá)8年,重點(diǎn)針對有色人種
近日,路透社公布的一項(xiàng)調(diào)查顯示,美國第三大連鎖藥店Rite Aid在全美200家商店中秘密部署人臉識別系統(tǒng),其中大部分部署于有色人種居住的低收入社區(qū)中。
據(jù)悉,他們使用該技術(shù)已超過8年,直到最近才停止。
Rite Aid是美國東海岸最大的連鎖藥店之一,總部位于賓夕法尼亞州,在美國開設(shè)有大約2500家商店。該連鎖藥店出售處方藥以及保健藥品、化妝用品、家庭日用品等多種商品。
1
擁有該項(xiàng)技術(shù)的Rite Aid會拍攝并在后臺直播每個(gè)進(jìn)入商店的人,創(chuàng)建一個(gè)獨(dú)特的面部輪廓。當(dāng)顧客走到Rite Aid商店的另一臺面部識別相機(jī)前,新的圖像就會被添加到顧客現(xiàn)有的個(gè)人資料中。
當(dāng)商店管理員看到有人犯罪或者有可疑動作時(shí),會在后臺進(jìn)行搜索匹配,經(jīng)過經(jīng)理批準(zhǔn)后,才會將此人添加到“可能從事潛在犯罪活動的人”的監(jiān)視名單中。
當(dāng)顧客再次走進(jìn)使用了這項(xiàng)技術(shù)的Rite Aid時(shí),安全監(jiān)管員將新采集的圖像與“可能從事潛在犯罪活動的人”名單進(jìn)行匹配。若匹配成功則會將警報(bào)發(fā)送到安全員的手機(jī)上。相關(guān)人員在確認(rèn)匹配準(zhǔn)確后,將要求該顧客離開商店。
商店安全管理人員補(bǔ)充說,他們在10天后就無法獲取這些圖像,除非此人根據(jù)在商店的行為被列入監(jiān)視名單。
Rite Aid隨后證實(shí)了其面部識別程序的存在和范圍。并稱該公司使用人臉識別技術(shù)的目的是防止盜竊和暴力犯罪,保護(hù)員工和顧客免受暴力侵害,不涉及種族歧視。
雖然Rite Aid表示,他們會告知顧客,在進(jìn)入商店時(shí)有相機(jī)對他們的面部進(jìn)行掃描并識別。但是調(diào)查發(fā)現(xiàn),至少三分之一的商店并未設(shè)置相關(guān)標(biāo)識。并且Rite Aid拒絕透露在哪些商店部署這些設(shè)有人臉識別功能的相機(jī)。
路透社調(diào)查中發(fā)現(xiàn),紐約和洛杉磯的75家Rite Aid商店中,有33家商店部署有這種相機(jī)。
設(shè)有人臉識別功能的相機(jī)很容易辨認(rèn),它們通常懸掛在商店入口附近和化妝品過道的天花板上。大多數(shù)長半英尺,呈矩形,標(biāo)有其型號“iHD23”或帶有供應(yīng)商首字母“DC”的序列號。
這75家商店中,較貧困地區(qū)的商店比高收入地區(qū)的商店使用面部識別的可能性要高得多。
在黑人和拉丁裔居民等有色人種占比最大的地區(qū),商店里部署人臉識別系統(tǒng)的可能性是其他社區(qū)的三倍以上。
目前,Rite Aid發(fā)表聲明表示已關(guān)閉所有設(shè)有人臉識別功能的相機(jī)。 相關(guān)人員稱,“鑒于該技術(shù)的實(shí)用性越來越不確定,其他大型科技公司似乎正在縮減或重新考慮在人臉識別方面的投入。”
近年來深受財(cái)務(wù)虧損困擾的Rite Aid并不是唯一采用或嘗試人臉識別技術(shù)的零售商。
2018年,部分美國零售商成了一個(gè)旨在測試反犯罪技術(shù)的聯(lián)盟——零售防損研究委員會(Loss Prevention Research Council),將人臉識別技術(shù)視作“有發(fā)展前途的新工具”。其中美國有幾家零售商決定采用人臉識別技術(shù),此技術(shù)可以幫助增加銷量,減少損失。
美國第二大零售商Home Depot向路透社表示,他們在至少一家商店測試了人臉識別能否減少入店行竊,但已在2020年停止實(shí)驗(yàn)。此外,CNBC報(bào)道顯示,截至2019年初,美國知名家裝產(chǎn)品零售公司Menards在至少10個(gè)地點(diǎn)試用了人臉識別系統(tǒng)。沃爾瑪也在少數(shù)商店試用了該系統(tǒng)。
弗吉尼亞州獨(dú)立的7- 11連鎖店老板告訴路透社,他們從2018年開始試用該軟件,但后來放棄。他們發(fā)現(xiàn)這個(gè)系統(tǒng)很大程度上是準(zhǔn)確的,但對用戶不友好,而且維護(hù)成本太高。該系統(tǒng)在網(wǎng)上的廣告中稱月費(fèi)為99美元。
2
美國政府機(jī)構(gòu)的一項(xiàng)研究表明,當(dāng)受試者的膚色較深時(shí),支持該技術(shù)的算法更容易出錯(cuò)。
一位顧客回憶起2016年9月在Rite Aid商店被誤認(rèn)為是潛在的扒手的經(jīng)歷。顧客認(rèn)為因其是有色人種才被識別錯(cuò)誤。
Rite Aid目前使用的這項(xiàng)技術(shù)由 DeepCam提供,早前,使用的則是FaceFirst的技術(shù)。同時(shí)使用過兩個(gè)系統(tǒng)的安全管理人員表示,盡管有時(shí)會出現(xiàn)失誤,但DeepCam的匹配更準(zhǔn)確。
而從2013年開始,隨著Rite Aid在費(fèi)城、巴爾的摩等地部署FaceFirst的技術(shù),發(fā)生過嚴(yán)重誤識別。
其在事件發(fā)生一周后向加州消費(fèi)者事務(wù)部提交的訴狀,他在2016年9月在某Rite Aid商店時(shí),一名經(jīng)理命令他離開商店。據(jù)起訴書稱,這名經(jīng)理曾收到該2013年在另一家Rite Aid公司拍攝的圖像,該圖像顯示他偷了東西。
但該顧客看到經(jīng)理提供的照片時(shí)表示,除了他們都是黑人種族之外,他們長得一點(diǎn)都不像。
3
人臉識別技術(shù)在美國已經(jīng)引起了高度爭議,因?yàn)樗诠埠退綘I部門的使用都在擴(kuò)大,包括執(zhí)法部門和零售商。公民自由倡導(dǎo)者警告說,這可能會導(dǎo)致對無辜個(gè)人的騷擾、任意和歧視性的逮捕、侵犯隱私權(quán)。
2019年5月,舊金山通過人臉識別禁用法令,禁止城市工作人員購買和使用人臉識別技術(shù),成為全球首個(gè)禁止人臉識別的城市。隨后,奧克蘭和薩默維爾市也通過人臉識別禁令。
舊金山在一項(xiàng)關(guān)于監(jiān)視技術(shù)的行政法規(guī)——《停止秘密監(jiān)視條例》中,針對人臉識別技術(shù)特別指出,“人臉識別技術(shù)危害公民權(quán)利和公民自由的傾向大大超過了其聲稱的好處,這項(xiàng)技術(shù)將加劇種族不平等,并威脅到我們不受政府長期監(jiān)控的生活能力”。
弗洛伊德事件后,人臉識別使用爭議再次引發(fā)討論,美國多家科技公司公開宣布放棄這項(xiàng)技術(shù)。
此前,在亞馬遜宣布禁止向美國警方出售面部識別軟件Rekognition一年以后 ,隨后,IBM、微軟相繼宣布停止向美國警方提供面部識別技術(shù),并反對將其用于大規(guī)模監(jiān)視和種族定性。
盡管承諾的細(xì)節(jié)和條款有所不同,比如亞馬遜、微軟表示暫時(shí)停止,而IBM則完全退出面部識別技術(shù)的出售,但這三家公司都要求美國華盛頓特區(qū)監(jiān)管該技術(shù)。
“技術(shù)可以提高透明度,幫助警察保護(hù)社區(qū),但絕不能放大歧視與種族不平等。”IBM首席執(zhí)行官克里希納在給美國國會議員的公開信中這樣講到。
美國公民自由聯(lián)盟(ACLU)高級政策分析師杰伊·斯坦利(Jay Stanley)表示,對于監(jiān)控技術(shù)引發(fā)的公民自由擔(dān)憂,正確的回應(yīng)是“不要秘密使用它”。
(文章來源:雷鋒網(wǎng))