你的上司，竟是機器？這么魔幻的場景，如今已經(jīng)成為現(xiàn)實。

作為亞馬遜公司的合同司機，Stephen Normandin已經(jīng)在鳳凰城奔走遞送包裹超過4年時間。然而，去年的某一天，他突然收到了一封自動郵件。郵件顯示，由于系統(tǒng)算法他沒有做好自己的工作，這位63歲的退伍老兵就這樣被一臺機器解雇了。

在亞馬遜，算法存在的深度遠超想象。多年來，亞馬遜一直使用算法來管理其在線市場上數(shù)以百萬計的第三方商家。此前，這些算法也曾判斷失誤過，比如指控商家抬高價格等。然而，亞馬遜仍然越來越多地將人力資源業(yè)務(wù)拱手讓給機器算法。

事實上，我們的生活已經(jīng)被算法支配。

被AI機器人解雇并非孤例

去年10月2日的凌晨3點，Normandin按照往常的習(xí)慣起床準(zhǔn)備洗漱去遞送包裹。但是，當(dāng)他打開手機App想要查看當(dāng)日亞馬遜Flex的送貨路線時，卻發(fā)現(xiàn)自己無論怎么嘗試也無法登錄進入系統(tǒng)了。

Normandin趕忙打開郵箱，發(fā)現(xiàn)一封亞馬遜發(fā)送給他的通用郵件寫著：你已經(jīng)被終止合作，原因為個人評分已經(jīng)低于可以接受的級別。同時這封郵件告訴他，跟蹤他的算法發(fā)現(xiàn)，他沒有正確地完成工作。

這一結(jié)果讓Normandin倍感震驚。要知道，在此前三年半的工作時間里，他的評分始終居于前列，甚至曾被亞馬遜內(nèi)部聯(lián)系要求幫助培訓(xùn)新司機。在苦思冥想后，Normandin認為自己評分下降的原因是算法的失誤。

據(jù)他回憶，從去年8月開始，他開始頻繁遇到一系列難以控制的運送延遲問題。例如，有一次亞馬遜的系統(tǒng)要求他在天亮前將快件派發(fā)至帶有密碼的公寓大樓，但當(dāng)他到達公寓時，卻發(fā)現(xiàn)公寓沒有開門，公寓辦公室也同樣無人執(zhí)勤。當(dāng)他按照指示聯(lián)系客戶時，由于時間太早，客戶也始終無法接聽電話。

之后，他按照亞馬遜算法的要求將包裹遞送到公寓大樓的亞馬遜送貨柜，然而儲物柜也出了故障無法打開。不得已，他只能撥通亞馬遜Flex的服務(wù)電話，并在30分鐘后收到將包裹退回亞馬遜送貨分揀中心的電話。

事后，Normandin發(fā)現(xiàn)自己的評分迅速下降。為此，他專門致電亞馬遜司機客服中心，解釋了自己無法按時完成配送的緣由。然而，在此之后不久，Normandin仍然遭到直接辭退。

在被算法判定無法達標(biāo)之后，Normandin也嘗試過上訴。但是與其他司機類似的是，他也進入了被亞馬遜機器人踢皮球的狀態(tài)。

經(jīng)過大約10多天的不斷申訴，Normandin收到了來自亞馬遜不同落款發(fā)出的多封疑似系統(tǒng)自動回復(fù)郵件。除了各種客套話外，Normandin的問題并沒有得到有效解決。最終，一封署名為SYAM的郵件于10月28日發(fā)送至Normandin的郵箱。這封郵件仍然沒有對Normandin的解雇提出任何解釋，也沒有回答Normandin提出的任何問題，只是最終宣告了Normandin的“裁員”決定。

無獨有偶，單親媽媽Lira也是亞馬遜算法錯誤判定的受害者之一。在亞馬遜，Lira已經(jīng)完成超過8000個包裹的配送，并一直被評價為“出色”。然而，在一次遇到被釘子扎破輪胎后，她聯(lián)系系統(tǒng)尋求其他送貨員的幫助，但最終也并未得到幫助。由于這次輪胎漏氣導(dǎo)致配送不及時，她的評級就直接從優(yōu)秀下降為不及格。

諷刺的是，就在被解雇的前一天，Lira還收到了系統(tǒng)分發(fā)的表揚信，評價她為亞馬遜最好的送貨合作伙伴。但在第二天，她就收到郵件表示由于違反服務(wù)條款，她不再有資格繼續(xù)參與亞馬遜Flex送貨計劃。

在經(jīng)歷數(shù)輪申訴申請后，Lira最終收到了和Normandin一樣來自SYAM的郵件，告訴她已經(jīng)審查了記錄，仍然維持原判。

算法已成亞馬遜重要管理工具

不僅僅只是被應(yīng)用于評判合同司機，亞馬遜已經(jīng)將算法應(yīng)用于諸多領(lǐng)域。例如，在Flex項目中，HR的工作大多依賴于算法，包括監(jiān)督、獎懲、裁員在內(nèi)的諸多舉措已經(jīng)完全依賴于算法的判斷。

作為全球第一的線上零售商，不得不說，亞馬遜的成功和其算法有密不可分的關(guān)系。此前，亞馬遜曾利用算法來管理其線上的數(shù)百萬第三方商家，盡管也曾一度引發(fā)不少投訴，但算法的高效仍然讓亞馬遜獲得了無與倫比的成功。

正因如此，貝索斯認為，機器能比人類更快、更準(zhǔn)確地做出決策，從而降低人力資源成本，將成為亞馬遜運營的一大優(yōu)勢。因此，亞馬遜越來越多的將算法應(yīng)用于人力資源工作領(lǐng)域，以管理倉庫員工、監(jiān)督合同司機、甚至是辦公室員工的表現(xiàn)。

從2015年開始，亞馬遜Flex項目就開始采用零工司機。在推出之初，亞馬遜主要依賴于Uber司機等，并宣稱可以“做自己的老板”。正是基于這些零工司機，用戶可在當(dāng)日準(zhǔn)時收到亞馬遜包裹。

然而，這些零工司機發(fā)現(xiàn)，所謂“做自己的老板”，事實上只是在算法層層監(jiān)控之下的一種好聽的說法。例如，算法會監(jiān)督司機們是否送貨到站、是否在規(guī)定窗口完成了路線、是否將包裹放在了正確的位置、是否將包裹隱藏在花盆后面等等。同時，亞馬遜的算法會掃描大量反饋數(shù)據(jù)和性能模式，并決定接下來哪些司機能獲得更多快遞單，哪些司機將被停用?；谶@些信息，算法系統(tǒng)將司機分為不同等級，包括非常好（Fantastic）、出色（Great）、一般（Fair）和有不合格風(fēng)險（At Rist）。

然而，高度自動化的人力資源系統(tǒng)并不足以適應(yīng)司機每天遇到的現(xiàn)實挑戰(zhàn)。亞馬遜內(nèi)部人員表示，亞馬遜公司知道將人力資源工作派發(fā)給機器算法會導(dǎo)致一些錯誤和誤判，但只要有足夠的司機有興趣加入Flex項目，這些錯誤就不會產(chǎn)生很大問題。

在亞馬遜看來，利用算法提高解雇效率比花錢請人調(diào)查錯誤并完成解雇合同工的工作更加便宜高效，而且Flex計劃也已經(jīng)成為一個巨大的成功項目。Flex項目幫助亞馬遜完成了最后一公里運送，打造了幾乎完美的物流體系——盡管會對以Flex為生的零工司機造成部分負面損害。

當(dāng)司機遭遇糟糕的評級時，他們提起申訴后甚至無法判斷自己是否在和真人交流。根據(jù)知情人描述，即使回復(fù)里有姓名，前幾封郵件也很可能只是機器的回復(fù)。其中會有少部分的情況能夠最終等到人類經(jīng)理參與處理，但這些處理往往并不專業(yè)。一位曾經(jīng)在司機支持中心工作的前雇員表示，監(jiān)督數(shù)百萬司機的這些員工很多都只是兼職，且?guī)缀鯖]有接受過任何培訓(xùn)。

正因如此，越來越多的司機由于亞馬遜的算法系統(tǒng)失誤不得不接受不公平的辭退待遇，甚至無法申訴，更不可能獲得賠償。

我們也已經(jīng)身處算法的支配之中

盡管發(fā)生在大洋彼岸，但我們也已經(jīng)無法對亞馬遜的算法系統(tǒng)冷眼旁觀。

此前，《人物》團隊推出一篇調(diào)查性文章《外賣騎手，困在系統(tǒng)里》引發(fā)輿論轟動。文章提出，如果資方發(fā)現(xiàn)工人的動作越來越嫻熟，還有時間，即交易剩余可以榨取，便會調(diào)高流水線的速度。表征到現(xiàn)實中的是，騎手變成了被算法支配的流水線上的工人。騎手們的工作時間完全被系統(tǒng)支配，當(dāng)算法深度學(xué)習(xí)后發(fā)現(xiàn)還可以壓縮時間，那么騎手們的“交易剩余”又被削減。資方居于信息優(yōu)勢方，騎手處于信息貧乏方，在算法面前沒有任何議價能力。

不只是騎手，在大數(shù)據(jù)時代，平臺理論上可以掌控每個買家的信息，向下壓榨每個買家的全部“消費者剩余”。

如今，我們打開購物軟件，看到的商品是算法推送的；打開資訊軟件，看到的新聞是算法推送的；打開旅游軟件，看到的酒店也是算法推送的，而且很可能價格比別人還要貴。算法，已經(jīng)變成了經(jīng)營者“算計”消費者的工具。

算法被濫用，消費者對此基本上無能為力，因為無論是取證本身還是舉證，以及證據(jù)被相關(guān)執(zhí)法機構(gòu)采納的可能性，目前都存在巨大難度。

2月7日，《國務(wù)院反壟斷委員會關(guān)于平臺經(jīng)濟領(lǐng)域的反壟斷指南》將大數(shù)據(jù)殺熟寫入了“差別對待”這一條里。該指南要求，平臺不得基于大數(shù)據(jù)和算法，根據(jù)交易相對人的支付能力、消費偏好、使用習(xí)慣等，實行差異性交易價格或其他交易條件。然而，究竟如何定義殺熟的邊界，仍然是在業(yè)內(nèi)尚無定論。

寫在最后

據(jù)路透社介紹，Normandin之后嘗試了其他幾家快遞公司，最后決定用他的疫情刺激資金開辦一家小型發(fā)動機維修公司。

對于算法，Normandin評論稱：“算法將人與人之間的距離框定在了冷冰冰的系統(tǒng)里，而現(xiàn)在是時候與人類開始打交道了。”

參考資料：

1.《被算法開除并無處申訴，亞馬遜Flex“員工”難忍被算法支配的恐懼》，新浪科技

2.《亞馬遜員工驚呆：我被機器解雇了》，新浪財經(jīng)

3.《算法，即剝削》，智本社

本文經(jīng)物聯(lián)網(wǎng)智庫授權(quán)轉(zhuǎn)載。