Ако ИИ определя избора и бъдещето ни, все още ли сме свободни?
Част от това да бъдеш човек е способността да се противопоставяш на обстоятелствата, но алгоритмичните прогнози и препоръки все повече затварят тази възможност за нас.
Докато четете тези думи, вероятно има десетки алгоритми, които правят прогнози за вас. Най-вероятно именно един от тях е определил, че ще попаднете на тази статия и ще я прочетете. Алгоритмичните прогнози могат да определят дали ще получите заем, работа, апартамент, застраховка, какво да четете, какво да слушате, какво да гледате и прави избор заради вас на много други жизнени обстоятелства, за които може въобще и да не подозирате.
Тази прогнозна аналитика завладява все повече и повече области от живота. И никой не иска вашето разрешение за съставянето на подобни прогнози. Освен това никоя държавна агенция не ги контролира. Никой не ви информира за пророчествата, които определят вашата съдба. За да се влошат нещата още повече, можете да потърсите в научната литература материали, касаещи етичните проблеми, свързани с прогнозите и ще откриете, че това е слабо проучена област на знанието. Като общество ние не сме осмислили етичните последици от прогнозите за хората – същества, за които се предполага, че са надарени със самостоятелност и свободна воля.
Предизвикателствата са в основата на това какво означава да си човек. Нашите най-големи герои са онези, които са се противопоставили на съдбата си: Ейбрахам Линкълн, Махатма Ганди, Мария Кюри, Нелсън Мандела и др. Всички те са постигнали успехи, надхвърлящи очакванията. Всеки учител в училище ше ви посочи свои възпитаници, които са постигнали повече, отколкото първоначално е предполагала съдбата им. В допълнение към подобряването на изходното ниво на всеки индивид, ние искаме обществото да позволява и насърчава действия, които да предизвикват обстоятелствата. Но колкото повече ние използваме изкуствен интелект (ИИ) за класифициране на хората, да прогнозираме бъдещето им и по съответния начин да се отнасяме с тях, толкова повече ограничаваме възможностите на човек, което от своя страна ни излага на неизвестни и неизследвани рискове.
Хората са използвали предсказанията още преди Делфийския оракул и въз основа на тези прогнози са се водели даже войни. През последните десетилетия прогнозите се използват за обосноваване на много практики, като например определяне на застрахователните премии. Тези прогнози обикновено се отнасят за големи групи хора – например колко хора от 100 000 ще катастрофират с колите си. Някои от тези хора са по-предпазливи и внимателни от другите, но застрахователните премии са приблизително еднакви при допускането, че обединяването на риска позволява по-високите разходи за по-малко предпазливите и внимателните да бъдат компенсирани от относително по-ниските разходи за останалите. Колкото по-голям е пулът, толкова по-предвидими и стабилни са застрахователните премии.
Днес прогнозирането се извършва предимно чрез алгоритми за машинно обучение, които използват статистически данни за запълване на празнините от неизвестното. Текстовите алгоритми използват огромни езикови бази данни, за да предскажат най-правдоподобния край на низ от думи. Игровите алгоритми използват данни от минали игри, за да предскажат най-добрия възможен следващ ход. А алгоритмите, приложени към човешкото поведение, използват исторически данни, за да предскажат нашето бъдеще: какво ще купим, дали планираме да сменим работата си, дали ще се разболеем, дали ще извършим престъпление или ще катастрофираме с кола. При тези модели застраховката вече не е обединяване на рискове за големи групи хора, а напротив, прогнозите стават все по- индивидуализирани и вие все повече сами плащате за тях, според личните оценки на риска, което повдига нов набор от етични проблеми.
Важна характеристика на прогнозите е, че те не описват реалността. Прогнозата касае бъдещето, а не настоящето, а бъдещето е това, което все още не е станало реалност. Прогнозата е предположение и съдържа всякакви субективни оценки и предубеждения по отношение на риска и ценностите. Разбира се, прогнозите могат да бъдат повече или по-малко точни, но връзката между вероятността и реалността е много по-слаба и етично проблематична, отколкото много хора смятат.
Въпреки това, днес организациите често се опитват да представят прогнозите за модел на обективна реалност. И дори когато прогнозите на изкуствения интелект са само вероятностни, на практика те често се тълкуват като детерминирани. Това отчасти се дължи на факта, че хората трудно разбират вероятностите и отчасти, защото стимулите за избягване на риска в крайна сметка подсилват прогнозите. (Например, ако се прогнозира, че дадено лице има 75 процента шанс да бъде лош служител, компаниите няма да искат да поемат риска да го наемат, когато имат кандидати с по-нисък риск.)
Начините, по които се използват прогнозите, повдигат етични въпроси, които ни връщат към един от най-старите спорове във философията: Ако има всезнаещ Бог, можем ли наистина да бъдем свободни? Ако Бог вече знае всичко, което ще се случи, това означава, че всичко, което ще се случи, е предопределено – в противен случай би било непознаваемо. От това следва, че нашето усещане за свободна воля е просто чувство. Този възглед се нарича теологичен фатализъм.
Но това, което би трябвало да ни тревожи в този аргумент, освен въпросите за Бог, е идеята, че ако са възможни точни прогнози (независимо кой ги прави), тогава това, което е предсказано, вече е определено. В ерата на изкуствения интелект тази загриженост става още по-актуална, тъй като прогнозният анализ постоянно е насочен към хората.
Един от основните етични проблеми е, че като правим прогнози за човешкото поведение по същия начин, по който правим прогнози за времето, ние третираме хората като вещи. Отчасти уважението към даден човек означава признаването на неговата независимост и способността му да променя себе си и обстоятелствата. Ако решим, че знаем какво ще бъде бъдещето на някого, преди това да се е случило и се отнасяме към него по съответния начин, ние не му даваме възможност да действа свободно и да се противопостави на това предсказание.
Вторият етичен проблем, свързан с прогнозирането на човешкото поведение е, че като се отнасяме към хората като към вещи, ние създаваме самоизпълняващи се пророчества. Прогнозите рядко са неутрални. Най-често актът на предсказване се намесва в реалността, която човек просто наблюдава. Например, когато Facebook прогнозира, че дадена публикация ще стане вирусна, социалната мрежа увеличава максимално нейната аудитория и тя действително се превръща във вирусна. Или да се върнем към примера с алгоритъма, който определя, че е малко вероятно да сте добър служител. Невъзможността да получите работа може да не се дължи на точността на алгоритъма, а на факта, че самият алгоритъм съветва компаниите да не ви наемат, а компаниите се вслушват в съветите му. Попадането в черния списък на даден алгоритъм може сериозно да ограничи възможностите ви в живота.
В миналото философите, които са се занимавали с теологичния фатализъм, са се притеснявали, че ако Бог е всезнаещ и всемогъщ, тогава не е трудно да се обвинява Бог в злото. Както пише Дейвид Хюм, „да се помири […] случайността на човешките действия с предвидливостта […] и в същото време да се освободи Божеството от задължението да бъде автор на греха, досега се смяташе отвъд всички възможности на философията. ” В случая с ИИ, ако прогнозната аналитичност е частично отговорна за реалността, която тя трябва да предскаже, тогава тя е частично отговорна за негативните тенденции, които наблюдаваме в дигиталната ера, от нарастващо неравенство до поляризацията, дезинформацията и вредата за децата и юношите.
Като цяло, широкото използване на прогнозна аналитичност ни лишава от възможността да имаме открито бъдеще, в което можем да променим нещата, и това може да има опустошителен ефект върху обществото като цяло.
През цялата човешка история ние сме следвали начини на живот, които са се противопоставяли на фатализма. Работим усилено, за да образоваме децата си, надявайки се, че всичко, което инвестираме, ще ги доведе до по-добър живот, отколкото биха могли да имат. Полагаме усилия да подобрим навиците си с надеждата за по-добро здраве. Хвалим доброто поведение, за да го поощрим и признаваме, че хората биха могли да направят по-лош избор. Ние наказваме нарушителите, поне отчасти, за да отучим тях и другите да не нарушават социалните норми. Стремим се да изграждаме нашите общества на база заслугите.
Нито една от тези социални практики, толкова фундаментални за нашия начин на живот, не би имала смисъл, ако мислим или действаме така, сякаш съдбите на хората са предопределени. Похвалата и порицанието биха били напълно неуместни. Представете си свят без оценки, глоби, награди или наказания от всякакъв вид; свят, в който не се опитваме да променим бъдещето; свят, в който хората живеят в абсолютно подчинение на пророчеството. Това е почти немислимо. Ако бъдещето на всяка компания можеше да бъде точно предвидено, тогава финансовите пазари, каквито ги познаваме, биха рухнали моментално, а с тях и нашата икономика. Въпреки че подобна екстремна възможност е малко вероятна, ние не би трябвало да следваме пътя, който ни доближава до нея.
Съществува неразрешимо противоречие между практиката на предсказване на човешкото поведение и вярата в свободната воля, като част от нашето ежедневие. Здравословната степен на неопределеност относно това, което ни предстои, ни мотивира да се стремим към най-доброто и поддържа възможностите ни отворени. Желанието да не оставим неизползвана нито една потенциална точка за събиране на данни с цел картографиране на бъдещето ни е несъвместимо с отношението към човек като господар на живота си.
Трябва да избираме между това дали да третираме хората като механични машини, чието бъдеще може и трябва да бъде предвидено (в този случай би било глупост да вярваме в меритокрацията) или да се отнасяме един към друг като към агенти (в този случай превръщането на хората като цел на индивидуални прогнози е неподходящо ). Никога не би ни хрумнало да вкараме трактор или друга машина в затвора. Ако хората са като тракторите, то тогава не бива да ги вкарваме в затвора. Ако, от друга страна, хората се различават от машините и искаме да продължим да ги хвалим и обвиняваме, тогава не трябва да се отнасяме към тях като към вещи, предсказвайки какво ще правят във всеки следващ момент, сякаш нямат избор.
Прогнозите не са безобидни. Широкото използване на предсказващ анализ може даже да промени начина, по който човек мисли за себе си. Вярата в свободната воля има своята стойност. Психологическите изследвания показват, че подкопаването на вярата на хората в свободната воля увеличава лъжите, измамите, агресията и конформизма и обезценява полезното поведение и положителните чувства, като благодарност и искреност. Колкото повече използваме прогнозни анализи по отношение на хората, толкова повече си представяме човека като нещо не повече от продукт на обстоятелствата и е толкова по-голяма вероятността хората да се смятат като лишени от самостоятелност и безсилни пред трудностите. Колкото по-малко даваме на хората възможност да предизвикват обстоятелствата, толкова сме по-виновни , че обричаме тях и обществото на статукво.
Решавайки съдбата на човек въз основа на алгоритми за прогнозиране, ние превръщаме хората в роботи. Креативността на хората в оспорване на обстоятелствата е помогнало за спасяването на цели нации. Способността да се противопоставяме на трудностите е един от най-големите дарове на човечеството и ние сами по собствена воля го застрашаваме.
