Цифрова антиутопия: как компютърните алгоритми наказват бедните
По целия свят – от малкото градче в Илинойс, САЩ до Рочдейл в Англия, от Пърт в Австралия до град Думка в Индия , с цифровизацията на социалната сфера протичат революционни промени в отношенията между правителствата на различните страни и бедните представители на обществото.
Вие не можете да наблюдавате тoзи процес и по-скоро нищо не знаете за него. Той е бил проектиран от инженери и програмисти зад затворени врати, в тихите коридори на реалната власт, надалеч от публичното внимание.
Само някои математици и компютърджии напълно разбират гигантските промени, базиращи се на изкуствения интелект (ИИ), алгоритмите за прогнозиране, моделирането на рисковете и биометрията. Ако сте един от милионите уязвими хора, получаващи обезщетение за безработица или някаква друга форма на социална помощ, скоро вие ще разберете реалността на случващото се и опасните от това последствия.
Изданието The Gardian в последните три месеца проведе разследване в хода , на което се разкри как милиарди долари се влагат в иновации в сферата на изкуствения интелект и автоматизацията, които коренно ще променят взаимоотношенията между държавата и бедните. Репортери в САЩ, Великобритания, Индия и Австралия са проучили какво означава появата на цифровата държава на всеобщото благоденствие за най-бедните слоеве на обществото. Огромни суми се изразходват от правителствата на промишлено развитите и развиващи се страни за автоматизацията на обслужването на бедните, превръщайки нуждите на уязвимите граждани в цифри, заменяйки мнението на хората, работещи в социалната сфера с бездушните решения на машините.
Репортажите описват мрачна картина на Дикенсова антиутопия в ХХI век, която се формира с главоломна скорост. Американският политолог Верджиния Юбенкс даже е формулирала този процес като „цифровизация на бедността”.
Ако послушате какво говорят властимащите, вие ще чуете благородни обещания за това как новите технологии ще променят бедността. Ще се ускорят изплащанията на обезщетенията за безработица, ще се повишат ефективността и прозрачността, ще се съкратят разходите, ще се икономисват средствата на данъкоплатците, ще се отстранят човешките грешки и предрасъдъци и ще се обезпечи достъпа на най-нуждаещите се до ограничените ресурси. Но струва ли си да се вярва на тези обещания?
Във времето, когато икономическият подход за съкращаване на разходи доминира в политическия ландшафт, милиони хора се лишават от препитание или се сблъскват с ограничения на своите възможности заради внедряването на компютърните програми. Тези програми работят по начин, който само малко хора могат да ги контролират и даже да ги разбират. Грешките стават ежедневие и техните жертви не разбират как може да бъде възстановена нанесената вреда.
През октомври тази година цифровизацията на бедността излезе на световната арена. Филип Алстон, юрист в областта на правата на човека, докладва пред ООН по въпросите на крайната бедност и представи пред Генералната Асамблея на ООН в Ню Йорк иновационен доклад, отразяващ тревожните последствия за правата на човека, възникващи в резултат на стремежите за цифровизация на социалната защита.
Анализът на Алстон частично е базиран на официалните изследвания на ООН по въпросите на бедността във Великобритания и САЩ, а също така на материалите на правителствата, правозащитните организации и експерти от повече от 34 страни. Докладът съдържа сравнително точна информация къде в момента се намира света и накъде се движи той по отношение на тези, които живеят в света на бързо растящата цифрова бедност.
В щата Илинойс, САЩ The Gardian е открил, че правителството на щата и федералните власти са обединили своите усилия, изисквайки получателите на пособие да погасят „надплатеното”, което понякога датира за период от 30 години. Тази система на „зомби -дълг”, въоръжена с най-съвременни технологии, предизвиква страх в най-уязвимите слоеве на обществото. Както се оплакал един от получателите на социална помощ: „Ти дължиш това, което си изял”.
Във Великобритания е изследван един не особено забележим правителствен сайт, където може да се види как се харчат милиони за разработване на програми в сферата на социалното осигуряване от ново поколение, заменящо живите служители. Частни компании разработват процеси, които пораждат абсолютно нов жаргон:”виртуална работна ръка”, „разширяване на вземането на решения” , „автоматизация на процесите”.
Правителството бърза със своята цифрова революция, без да се съобразява с щетите, нанесени вече на милиони британци с ниски доходи заради цифровизацията на процесите. Много от ощетените заявяват, че са подложени на глад, страх и паника заради процесите, протичащи в социалната сфера.
В Австралия The Gardian многократно е писал за схемата „robodebt”, , обвинявана за неправомерни искания за връщане на социални надплащания, възникнали в резултат на некоректен алгоритъм . Сега вече правителството е открило нов цифров фронт – използването на автоматизацията за спиране на милиони социални плащания. Получателите откриват , че са лишени от социалните средства без каквото и да било предварително уведомление.
Но може би най-тревожните сигнали идват от Индия. Например в град Думка много семейства са пострадали в резултат на внедряването на Аадхаара, 12-цифров идентификационен номер, който правителството на Индия е дало на всички жители в хода на най-големия в света биометричен експеримент.
Мотка Манджи е заплатил с живота си заради компютърна грешка, в хода на която системата не е разпознала отпечатъка на палеца му, тоест ключа към Аадхаара. В резултат на това не са му отпускани повече продоволствените помощи. На 22 май Манджи паднал около своя дом и починал. Неговото семейство е убедено, че той е умрял от глад.
Разследването на The Cuardian разкрива общите черти на тези нови системи, независимо дали се прилагат в развитите или развиващите се страни, на изток или на запад. Най-явната прилика се състои в това, че всичко протича стремително. Високотехнологичните подходи се внедряват в социалните услуги, в системите за инвалидност, в пенсионните услуги и здравеопазването, много често без никакво публично обсъждане и отчетност.
В рамките на тази революция значението на човешкия елемент в цифровата държава на всеобщото благоденствие изчезва. Вместо да се разговаря със служител, който лично да оцени вашите нужди, вие сега се намирате в мрежа, където аналитичният компютърен инструмент ви дава оценка за бъдещия риск , а алгоритъмът ще реши вашата съдба.
В новия свят неравенството и дискриминацията могат да станат нещо обикновено. Какво ще стане, ако вие сте един от петте милиона възрастни във Великобритания, нямащи постоянен достъп до интернет и практически непритежаващи компютърна грамотност? Какво ще стане ако алгоритъмът просто приеме за сведение съществуващите изкривявания по расов и класов признак, правейки пропастта между бедните и богатите , белите и черните, работещите в колежите и работниците на физическия труд, още по-голяма?
Това плашещо явление обхваща целия свят. Както е открил за себе си индиецът Манджи, грешки се случват. Машините не са идеални. Ако в пределите на досег няма никого, който да се отнесе към вас като към личност, а не като 12-цифрово число, подлежащо на обработка, резултатите могат да бъдат фатални. Компютърът ще ви каже „ Вие нямате налични средства”. Какво ще направите тогава?
