ИИ вместо държава: струва ли си да доверяваме бъдещето си на машини
Европейците са толкова разочаровани от чиновниците и политиците, че са готови да ги сменят с машини. Във Vox Сигал Самуел (Sigal Samuel) коментира социологическо изследване на Центърa по управление на промените към IE University- Испания, в което една четвърт от европейците са готови да заменят политиците с изкуствен интелект.
Всеки четвърти европеец иска най-важните решения относно управлението на държавата да ги взема изкуствен интелект (ИИ) , а не политиците. Във Великобритания и Германия те даже са повече – една трета. В Холандия въобще 43 % искат политиката да се довери на ИИ.
Тези поразителни резултати са от ново социологическо изследване , проведено в осем европейски страни от Центърa по управление на промените към IE University Испания. Въпросите били насочени за изясняване как по мнение на хората технологиите ще променят света: например за работните места (40% смятат , че тяхната компания ще изчезне до 10 години) или за публичното пространство (68% се опасяват, че хората повече ще общуват онлайн, отколкото лично).
Но най-поразителният и тревожен факт се състои в това, че 25% от европейците искат изкуствен интелект да смени политиците. Това са милиони хора, искащи кардинални промени, което беше немислимо преди 10 години.
Много европейци са разочаровани от своите политици и затова има много основателни причини. Например тази проточила се сага с Брекзит е достатъчен повод за съмнения как хората, избрани и определящи съвременната политика, могат да решават такива глобални проблеми..
Грешките и провалите на политиците могат да предизвикат желание у хората да предоставят вземането на политически решения на машините, смятайки че те могат да направят по-обективен и правилен избор.
Проблемът се състои в това, че ИИ не е толкова обективен, колкото си мислим. Първо, човешките пристрастия могат да проникнат в автоматизираните системи за вземане на решения. Ако изходните данни , използвани в обучението на ИИ, са съмнителни , препоръките, които той ще изработи, също ще са съмнителни. Например, виждали сме много примери, как алгоритмичната преднамереност влияе на технологията за лицево разпознаване. Изследователите предупреждават, че това може да повлияе и на други технологии. Има основания да подозираме, че проблемът с преднамереността ще излезе с цялата си сериозност, когато изкуственият интелект излезе на арената за вземане на политически решения.
Но да оставим настрани проблема с преднамереността. Компютърните модели не могат да обхванат множеството фактори, действащи в човешкото общество и как те си взаимодействат, защото обществата представляват невероятно сложни поведенчески системи. Даже ако моделът може да идентифицира всички най-важни фактори в дадената ситуация, то не може да се гарантира, че той ще проработи в друг момент и на друго място. Както ми каза миналата година Нил Джонсон , физик, моделиращ тероризъм, моделът това е «карикатура на реалния свят».
Ние с Джонсон говорихме за конкретен модел , който се разработва в Норвегия, целящ да оцени различни стратегии в отношение на религията и да помогне на правителството да приеме най-ефективната. Проектът «Моделиране на религията в Норвегия» разглежда различните варианти на интеграция на сирийските бежанци и е способен да предскаже какво ще се случи, ако бъде избран един от тях. Ето какво бях писал преди време в The Atlantic по този повод:
«Норвегия е идеалното място за провеждане на изследване не само, защото днес страната не се справя с интеграцията на сирийците, но и защото тя е събрала огромни масиви от данни за своето население. Използвайки за настройване на модела, (изследователите) могат да получат по-точни и детайлни прогнози, симулиращи какво ще стане в конкретен град и даже в конкретен район».
Това действително е вълнуваща и многообещаваща идея, но както отбеляза Джонсон, такъв модел може да се смята за предложение, а не за безгрешна прогноза. «Много е добре да имаме модела като инструмент» смята той, но той не трябва да притежава правото да взема еднолични решения.
Добре е това да се разбере от тези 25% европейци, които искат изкуственият интелект да взема решения вместо политиците. Изкуственият интелект може да е източник на полезна информация, но в такава сложна и отговорна сфера на дейност като политиката, на нас са ни нужни хора – политици, политолози – за да интерпретират идеите на ИИ и да определят сферата на тяхното използване.
По ирония на съдбата, по данни на същото социологическо изследване, мнозинството европейци се опасяват, че роботите ще заменят хората в повечето професии. Повече от 70 % от анкетираните смятат, че правителствата трябва да провеждат твърда политика, ограничаваща автоматизацията в бизнеса. Изследователите не са оставили този факт без внимание и са го определили като «странен парадокс»
Изпълнителният директор на Центъра по управление на промените Диего Рубио заявява, че желанието на европейците да разширят възможностите за ИИ говори за тяхното разочарование. „Такова мислене, което е свързано с растящото недоверие на гражданите към правителствата и политиците, представлява много сериозен проблем пред европейския модел на представителна демокрация, тъй като отправя сериозно предизвикателство към самото понятие народен суверенитет” – казва той.
Ние сме крайно разочаровани от политическата система и това е разбираемо. Но дали няма да я заменим със също толкова несъвършена система, използваща ИИ? И ако това стане, може само да влоши ситуацията, защото действията на изкуствения интелект, а следователно и неговите политически решения, могат да се вземат с измамното усещане за обективност .
