Переклав Юрій Черната
Стівен Нормандін провів майже чотири роки, ганяючи околицями міста Фенікс і розвозячи пакунки для Amazon.com Inc як позаштатний водій. А одного дня він отримав автоматизований електронний лист. Алгоритми, які за ним стежили, вирішили, що він погано виконує свою роботу.
63-річний армійський ветеран був шокований. Його звільнила машина.
Нормандін каже, що був покараний Amazon через обставини, які від нього не залежали, але завадили йому завершити доставки, — наприклад, замкнуті житлові комплекси. Він розповів, що сприйняв звільнення тяжко, і, пишаючись своєю робочою етикою, згадав, як під час служби в армії допомагав готувати для 250 тисяч в’єтнамських біженців у Форті Чаффі в Арканзасі.
«Я хлопчина старої школи, і в кожну роботу я вкладаюсь на 110%, — каже він. — Я дуже засмутився, бо мова йде про мою репутацію. Вони кажуть, що я не виконав роботу, хоча я чудово знаю, що виконав».
Досвід Нормандіна — неочікуваний поворот багаторічних передбачень, що роботи замінять працівників. В Amazon машини часто є босом: вони наймають, оцінюють та звільняють мільйони людей без або майже без людського нагляду.
Amazon стала світовим лідером в онлайн-торгівлі частково завдяки передачі своїх численних операцій алгоритмам — наборам комп’ютерних інструкцій, створеним для вирішення конкретних проблем. Компанія роками використовувала алгоритми для керування мільйонами сторонніх торговців на своєму майданчику, викликаючи скарги, коли продавцям давали стусана після безпідставних звинувачень у продажі підроблених товарів та задиранні цін.
Компанія також все більше передає машинам роботу з кадрами, використовуючи програми не лише для управління складськими робітниками, але й для нагляду за водіями-підрядниками, незалежними компаніями з доставки та навіть продуктивністю своїх офісних працівників. За словами знайомих зі стратегією компанії людей, головний виконавчий директор Джефф Безос вважає, що машини приймають рішення швидше та точніше за людей, зменшуючи витрати та даючи Amazon конкурентну перевагу.
2015 року Amazon запустили свій сервіс доставки Flex, і армія водіїв-підрядників швидко стала критичною часткою машини доставки компанії. Зазвичай водії Flex розвозять пакунки, які не встигли потрапити на вантажівку Amazon до її від’їзду. Замість того щоб змушувати клієнта чекати, водії Flex забезпечують доставку пакунків у той же день. Вони також пораються з великою кількістю замовлень продуктів з амазонівської мережі Whole Foods Market. Завдяки водіям Flex Amazon не збавили обертів під час пандемії, а ті своєю чергою раділи можливості заробляти близько 25 доларів на годину за перевезення пакунків, коли в Uber та Lyft перестали приходити замовлення.
Але зареєструвавшись, водії Flex дізнаються, що алгоритми моніторять кожен їхній рух. Чи вчасно вони приїхали на станцію доставки? Чи завершили свій маршрут у встановлений термін? Лишили пакунок на виду у ґанкових піратів, а не сховали за квітковим горщиком, як вимагають правила? Алгоритми Amazon опрацьовують потік даних для отримання патернів продуктивності і вирішують, які водії отримають більше маршрутів, а яких буде деактивовано. Зворотний зв’язок від людини — рідкість. Іноді водії отримують автоматичні листи, але здебільшого їм лишається переживати за свій рейтинг, який ділиться на чотири категорії: фантастичний, гарний, пристойний або в зоні ризику.
Bloomberg поспілкувався з п’ятнадцятьма водіями Flex, включаючи чотирьох, які заявляють, що їх звільнили несправедливо, а також з колишніми менеджерами Amazon, котрі твердять, що здебільшого автоматизована система погано пристосована до реальних викликів, з якими щодня стикаються водії. За словами колишніх менеджерів, у Amazon знали, що делегування роботи машинам призведе до помилок і дискредитуючих заголовків, але вирішили, що доки водіїв можна легко замінити, довіряти алгоритмам дешевше, ніж платити людям за перевірку помилкових звільнень.
Досі в Amazon не було нестачі підрядників для Flex. За даними App Annie, у світі додаток завантажили близько 4 мільйонів водіїв, з них 2,9 мільйонів у США. Понад 660 тисяч людей у США завантажили його у перші п’ять місяців цього року — на 21% більше, ніж за цей самий період минулого року, за даними трекера додатків SensorTower.
За словами колишнього інженера, який допомагав розробляти систему, в Amazon програму Flex вважають великим успіхом, чиї переваги значно переважають супутні збитки. «Керівництво знало, що програма обісреться, — каже він. — Вони так і формулювали це на нарадах. Єдиним питанням був допустимий ступінь обсирання».
Речниця Amazon Кейт Кудрна назвала історії водіїв про погане ставлення та несправедливі звільнення окремими випадками і заявила, що вони не представляють досвід переважної більшості водіїв Flex. «Ми багато інвестували в технологію та ресурси, щоб водії могли слідкувати за своїм рейтингом та можливістю продовжувати доставки, а всі апеляції водіїв розглядались», — заявила вона.
Як незалежні підрядники, водії Flex майже не мають подушки безпеки у випадку несправедливої, на їхню думку, деактивації. Оплачуваної відпустки на час розгляду апеляції немає. Водії можуть заплатити 200 доларів, щоб передати суперечку в арбітраж, але рідко користуються цією можливістю, вважаючи її марнуванням часу та грошей.
Коли 2019 року Райана Коупа деактивували, він не став сперечатися і подаватись в арбітраж. На той момент Коуп уже дійшов висновку, що виконати вимоги алгоритмів нереально. Долаючи кілометри звивистих засніжених ґрунтових доріг навколо Денвера, він часто хитав головою, не вірячи, що Amazon розраховує, що клієнт отримає посилку протягом двох годин.
«Коли виникає проблема, ніякої підтримки немає, — каже 29-річний Коуп. — Ти протистоїш машині, тому навіть не намагаєшся боротись».
Коли водії все ж пробують оскаржити низькі рейтинги, вони не впевнені, що спілкуються з живими людьми. У відповідях часто вказується лише ім’я без прізвища або взагалі не вказується імені, а самі відповіді зазвичай стосуються спектру ситуацій, а не конкретної проблеми. За словами людей, знайомих з темою, навіть якщо ім’я в листі присутнє, перші декілька відповідей швидше за все генерує машина.
Коли живих менеджерів таки залучають, вони зазвичай проводять перевірку — якщо взагалі проводять — нашвидкоруч, тому що мусять закривати власні показники продуктивності. Колишній працівник кол-центру водійської служби підтримки розповів, що вирішувати проблеми мільйонів водіїв призначили кілька десятків частково зайнятих майже не підготовлених сезонних працівників.
«Amazon усе одно, — каже колишній співробітник. — Вони знають, що більшість людей свої пакунки отримають, а решті 2–3 відсоткам якось компенсують».
Amazon автоматизували свою кадрову роботу більше за інші компанії. Проте алгоритми все частіше використовуються для прийняття рішень, які впливають на життя людей. Машини розглядають кредитні заявки та навіть вирішують, чи заслуговує ув’язнений на дострокове звільнення. Експерти з комп’ютерних наук закликають ввести регуляції, які змусять компанії зробити вплив алгоритмів на людей прозорим, надаючи їм необхідну інформацію для виявлення та виправлення помилок. Законодавці вивчали питання, але не поспішають вводити правила, які запобігли б шкоді. В грудні сенатор Кріс Кунс, демократ зі штату Делавер, запропонував Акт справедливості алгоритмів. Згідно з ним, Федеральна торгова комісія мала би створити правила, які гарантували б, що алгоритми використовуються справедливо і ті, на кого впливають їхні рішення, проінформовані про це і мають можливість виправляти помилки. Поки що його пропозиція нікуди не пішла.
Неддра Ліра з Арлінгтона, Техас, почала робити доставки через додаток Amazon Flex в 2017-му. 42-річна водійка шкільного автобуса та мати трьох дітей взяла додаткову роботу під час канікул, аби підзаробити трохи грошей, які пішли на оплату уроків з гімнастики для доньки. Коли вдарила пандемія і школи закрились, Ліра зробила Flex основним джерелом прибутку, розвозячи пакунки і продукти з Whole Foods. Їй подобались гнучкість та можливість заробити 80 доларів за чотиригодинний маршрут з урахуванням витрат на бензин для її кросовера Chevrolet Trax.
За оцінками Ліри, вона доправила близько 8 тисяч пакунків і більшість часу її рейтинг тримався на позначці «гарний». Алгоритми Amazon оцінюють водіїв за критеріями надійності та якості доставки, які вимірюються в основному тим, чи вчасно вони забрали пакунок, чи завершили доставки у встановлені строки і чи виконали спеціальні прохання клієнтів. Метрики Flex зосереджені здебільшого на пунктуальності, на відміну від сервісів на кшталт Uber та Lyft, у пріоритеті яких є також такі параметри, як чистота машини чи ввічливість водія. Більше того, пасажири Uber та Lyft знають, коли застрягли в заторі, тому водій має менше шансів отримати покарання за те, що від нього не залежить.
Клієнт Amazon не має уявлення про перепони, які водії Flex зустрічають на шляху до його квартири, і так само про них не знають алгоритми, які за водіями стежать. Ліра розповідає, що іноді перед станцією доставки збиралася така черга водіїв, що їй доводилося стояти близько години, аби забрати свій пакунок. Через це вона відставала від графіку, навіть не встигнувши почати шлях. Коли Ліра помітила цвях у своїй шині, Amazon не запропонували приїхати й забрати пакунки, а попросили її повернути їх до станції доставки. Ліра боялась, що у неї спустить колесо, але послухалася, аби зберегти свою позицію. Хоча вона пояснила ситуацію, її рейтинг за сходження з маршруту впав з «гарного» до «в зоні ризику». Щоб відновити його, знадобилось декілька тижнів.
Ліру знову й знову запевняли, що її рейтинг в порядку. Типовий такий лист надійшов 1 жовтня. «Наразі у вас чудовий рейтинг і це означає, що ви один з наших найкращих партнерів з доставки», — йшлося в листі, підписаному «Мадду С.» Але вже наступного дня «Бхану Пракаш» написав Лірі, що вона порушила умови обслуговування Flex. «Як наслідок, ви втрачаєте право брати участь в програмі Amazon Flex і не зможете увійти в свій обліковий запис у додатку Amazon Flex».
Лірі надали адресу електронної пошти і дали можливість оскаржити звільнення протягом 10 днів. Вона надіслала лист з питанням, що стало причиною деактивації, щоб розповісти підтримці, що пішло не так. Подальших подробиць вона так і не отримала. 18 жовтня вона написала нового листа, пояснюючи, що вона мати-одиначка, яка залишилась без основної роботи через пандемію, і Flex — єдине, що дозволяє їй триматися на плаву. Ліра отримала від «Команди Amazon Flex» відповідь, схожу на автоматично згенеровану, з вибаченням за затримку і запевненням, що її ситуацію розгляне належна команда.
Через три дні, 21 жовтня, вона отримала повідомлення від «Маргарет» зі словами «ми досі розглядаємо вашу апеляцію». Ще через тиждень, 28 жовтня, у листі від «СІАМа» йшлося: «Ми перевірили вашу інформацію і ще раз проглянули вашу історію. Наша позиція не змінилася і ми не відновимо ваш доступ до програми Amazon Flex… Бажаємо вам успіхів у майбутніх починаннях».
Без водійського підробітку у Ліри почались фінансові труднощі. Вона перестала платити іпотеку, і через два дні після Різдва її машину відібрали прямо з подарунками для дітей всередині. Ліра змушена була просити державну допомогу, щоб заплатити рахунки за електрику, газ та воду. Зрештою вона знову почала водити шкільний автобус і використала більшу частину допомоги у зв’язку з пандемією, щоб повернути свій автомобіль, заплативши 2800 доларів за пропущені платежі, витрати за конфіскацію та зберігання.
«Це було просто несправедливо, — сказала Ліра. — Я ледь не втратила свій будинок».
За словами колишніх працівників, розробники Flex дуже старалися, щоб система була справедливою і враховувала змінні, наприклад затори і проблеми з доступом до квартир, які система не в змозі виявити. Але жоден алгоритм не ідеальний, і з розмірами Amazon навіть крихітний відсоток помилок може вважатись величезним успіхом всередині компанії і при цьому завдати багато болю водіям. За свідченнями знайомої з програмою людини, водії Amazon Flex розвозять 95% усіх пакунків вчасно та без проблем. Решту 5% проблематичних випадків вивчають алгоритми.
Алгоритми Flex спершу були грубим інструментом і вдосконалювалися з часом. За словами знайомої з ситуацією людини, спочатку розробники встановили для водіїв занадто вузьке вікно часу для прибуття на станцію доставки. Вони не врахували людську природу. Охочі до роботи водії обіцяли прибути в певний час, перебуваючи занадто далеко, щоб встигнути. Ця помилка ставила хороших водіїв у невигідне становище, а виправили її лише після масштабного падіння рейтингів. Система також використовує GPS, щоб оцінити, скільки часу потрібно, аби дістатися певної адреси, але іноді не враховує, що засніженою сільською дорогою повзти набагато довше, ніж проїхатися вуличкою в передмісті у сонячний день.
Для Нормандіна система багато років працювала нормально. Уродженець Арізони, він вже розвозив піцу вночі та газети вранці, знав усі дороги навпростець і місця, де зазвичай утворюються затори. Він також водив для Uber та Lyft, але почав брати більше роботи у Flex під час пандемії, коли попит на поїздки упав і возити пасажирів стало більш ризиковано, ніж пакунки.
Нормандін насолоджувався зоряними рейтингами, йому навіть пропонували тренувати інших водіїв. У нього була відпрацьована система сортування пакунків перед виїздом зі станції: перші доставки він ставив на переднє сидіння, наступні кілька на задні, а решту складав у багажник своєї Toyota Corolla 2002 року. Нормандін понад десять років має інвалідність через хворобу шлунка та проблеми зі спиною, через це він не може довго сидіти або стояти на одному місці. Часткова зайнятість йому подобалась, бо дозволяла працювати по кілька годин за раз.
Нормандін розповів,що з серпня минулого року його спіткала смуга невдач, на які він не міг вплинути. Amazon призначили йому декілька доставок у житлові комплекси перед світанком, коли їхні ворота ще були замкнені — часта скарга водіїв Flex. Алгоритм у таких випадках наказує водіям лишати пакунки в головному офісі, але він теж був зачинений. Нормандін, керуючись інструкцією, подзвонив клієнту, не сподіваючись на успіх: люди не відповідають на дзвінки з незнайомих номерів, особливо рано вранці. Він подзвонив у службу підтримки, яка також не змогла зв’язатися з клієнтом. Тим часом годинник цокав, а алгоритм рахував затримку.
«Алгоритм не враховує багато речей і права рука не знає, що робить ліва», — каже Нормандін.
Десь у той же час його попросили доставити пакунки до шафи Amazon у житловому комплексі, але Нормандін не зміг її відкрити. Після 30 хвилин телефонного спілкування з підтримкою йому сказали повернути пакунки на станцію доставки. Після цього його рейтинг обвалився. Нормандін знову подзвонив у підтримку, щоб пояснити, що винна зламана шафа, і йому сказали, що проблему усунуть. «Вони так її й не виправили, — каже він, — і мені знадобилось шість тижнів, аби знову підняти свій рейтинг».
2 жовтня Нормандін прокинувся о 3-й ранку, прийняв душ і схопив телефон, щоб знайти маршрут у Flex, але не зміг увійти в систему. Він перевірив пошту і побачив загального листа від Amazon, підписаного «Гангардар М.». У ньому йшлося, що позиція Нормандіна «впала нижче допустимого рівня» і його звільнено.
Після цього почався процес, знайомий усім, хто опинявся у пастці автоматизованої клієнтської підтримки — тільки в цьому випадку Нормандін добивався не відшкодування за пошкоджений продукт. Він боровся, щоб повернути собі роботу.
Отримавши від Amazon стандартні 10 днів на апеляцію, Нормандін написав у підтримку Flex і попросив скасувати своє звільнення. Він доводив, що вже повідомляв Amazon про непереборні обставини і йому обіцяли, що невиконання цих замовлень не створить йому неприємностей.
Я більше трьох з половиною років відповідав і перевершував стандарти і ніколи не мав проблем, доки не почав працювати з SAZ1/VAZ1 — кілька пізніх доставок та одна проблема 24 серпня через несправність центру та відсутність доступу до квартир. ЦЕ МАЄ БУТИ ПОМИЛКОЮ! Я залежу від цих грошей. Я все фіксував і багато разів зв’язувавася з підтримкою щодо будь-яких проблем з пізніми доставками — інших проблем у мене не виникало. У мене стабільний рейтинг з доставки усього завжди, я жодного разу не пропустив зміни, я завжди приїжджаю вчасно (заздалегідь) і я ніколи не скасовував зміну в останній момент, бо це просто не має сенсу. Це має бути помилкою, і її треба негайно виправити. Я дуже засмучений і негайно повідомлю вищі інстанції. Яких таких стандартів я не дотримався? Цей імейл неконкретний. Стівен Нормандін Sent from AOL Mobile Mail -----Original Message----- From: Amazon.com To: ██████████ Sent: Sat, Oct 3, 2020 12:08 pm Тема: Повідомлення від підтримки Amazon Flex Вітаємо, Стівене, дякуємо, що надали нам більше контексту щодо вашої історії з Amazon Flex. Ми розглянемо цю інформацію та ваше право продовжувати участь у програмі Amazon Flex. Ми надішлемо вам відповідь протягом шести днів. Дякуємо за терпіння. Ми будемо вдячні за зворотний зв’язок від вас. Будь ласка, використайте кнопки нижче, щоб оцінити свій досвід сьогодні. З найкращими побажаннями, Бітан Банерджі Команда Amazon Flex
Наступного дня Нормандін отримав відповідь від «Павані Дж.» з подякою за те, що «надали більше контексту щодо вашої історії з Amazon Flex». Нормандін відповів на лист додатковою інформацією і отримав точно таку саму відповідь з обіцянкою розглянути питання, але цього разу з підписом «Бітан Банерджі». У листі запевняли, що нададуть відповідь протягом шести днів. Через сім днів написав «Арнаб», вибачаючись за затримку та обіцяючи новини якомога скоріше.
Тим часом Нормандін не міг заробляти гроші. Він розраховував на амазонівський щорічний розпродаж, перенесений на жовтень, щоб заробити на оплату рахунків. Не отримавши відповіді до 19 жовтня, Нормандін знову написав у Amazon, цього разу поставивши на копію Безоса.
«Я прошу надати конкретні подробиці щодо того, як було прийнято рішення про деактивацію мого акаунту, — написав він. — Я певен, що ретельний розгляд всієї моєї історії доставок як водія Amazon Flex покаже стабільну історію роботи на найвищому рівні від обачної та розважливої людини».
Десь через 12 годин він отримав відповідь з повідомленням, що Безос отримав листа та наказав «Тейлору Ф» вивчити питання та відповісти від його імені. 23 жовтня Нормандіну прийшов лист від «Ракелі» зі служби підтримки Amazon Flex з інформацією, що вони досі розглядають його апеляцію. Колишні працівники Amazon, які працювали над Flex, розповіли, що апеляція до Безоса — часта тактика у деактивованих водіїв, але це рідко їм допомагає.
Вердикт надійшов 28 жовтня від «СІАМа» — те ж ім’я, що в останньому листі Лірі. В імейлі не відповідали прямо на претензії Нормандіна, але визнавали існування викликів у роботі: «Ми розуміємо, що у кожного партнера з доставки бувають складні дні й іноді трапляються затримки, і ми вже взяли це до уваги». Але роботу Нормандіну все одно не повертали.
Відійшовши від шоку, він спробував кілька інших служб доставки, але згодом вирішив використати гроші з пандемійної допомоги на відкриття бізнесу з ремонту маленьких двигунів. Настав час знову мати справу напряму з людьми. Щодо творців алгоритмів, які відслідковували, оцінювали та зрештою звільнили його, Нормандін сказав: «Схоже, вони не мають найменшого поняття, як працює реальний світ».
Джерело: Bloomberg
Переклад підготовлено за підтримки Rosa Luxemburg Stiftung в Україні.