Хакна ли изкуственият интелект операционната система на човешката цивилизация?
Все повече известни личности от различни области на науката, бизнеса, политиката споделят своите притеснения от масовото и неконтролирано внедряване на изкуствения интелект. Ето и мнението на известния историк, визионер и философ Ювал Ноа Харари, особено нашумял с бестселърите си за историята и бъдещето на нашата цивилизация ( „Sapiens. Кратка история на човечеството“, „Homo Deus. Кратка история на бъдещето“ и „21 урока за 21-ви век“ ). Той разсъждава върху това как способността на изкуствения интелект (ИИ) да генерира език може да пречупи човешката цивилизация и нейните перспективи.
Страхът от изкуствения интелект (ИИ) преследва човечеството от зората на компютърната ера. Но досега той се фокусираше най-вече върху машини, способни физически да унищожат хората, да ги поробят или да ги заменят. Но през последните няколко години се появиха нови ИИ инструменти, които застрашават оцеляването на човешката цивилизация от съвсем неочаквана страна. Изкуственият интелект придоби невероятни способности да генерира език – вербален, звуков или визуален – и да го контролира. По този начин той хакна операционната система на нашата цивилизация.
Езикът е това, от което се състои почти цялата човешка култура. Правата на човека, например, не са заложени в нашата ДНК. Не, това са културни артефакти, които ние сме създали, разказвайки истории и създавайки закони. И боговете не са физическа реалност. Не, това са културни артефакти, които сме създали, измисляйки митове и свещени писания.
Парите също са културен артефакт. Банкнотите са само цветни хартийки, а сега повече от 90% от парите дори не са в банкноти, а просто цифрова информация в компютрите. Това, което им дава стойност, са историите, които ни разказват банкери, финансови министри и гурута на криптовалутите. Сам Банкман-Фрайд, Елизабет Холмс и Бърни Мадоф не бяха особено добри в създаването на истинска стойност, но всички те бяха изключително талантливи разказвачи.
Какво би се случило, ако нечовешкият интелект стане по-добър от обикновения човек в разказването на истории, композирането на мелодии, рисуването на картини и създаването на закони или свещени текстове? Когато хората разсъждават за ChatGPT и другите нови ИИ инструменти, те често се фокусират върху частни случаи като училищните есета, написани от ИИ и какво ще се случи с училищната система, ако децата започнат масово да ги използват. Но подобни въпроси не отразяват цялостната картина. Забравете училищните есета. Помислете за следващата президентска надпревара през 2024 г. в САЩ и си представете въздействието на ИИ инструментите, които могат да се използват за широко производство на политическо съдържание, фейкове и сакрални текстове за нови култове.
Култът QAnon, формирал се през последните години и особено популярен сред подръжниците на Доналд Тръмп, възникна около анонимни онлайн съобщения, известни като „q drops“, които неговите последователи събираха, почитаха и тълкуваха като свещено писание. И въпреки че тези съобщения, доколкото ни е известно, са създадени от хора, а ботовете само помагаха за разпространението им, в бъдеще може да видим първите култове в историята, чиито свещени текстове да са написани от нечовешки разум. Религиите през цялата история на нашата цивилизация са претендирали, че техните свещени книги са от нечовешки източник. И скоро това може да превърне в реалност.
Много скоро на доста по-битово ниво дългите онлайн дискусии за абортите или изменението на климата могат да се превърнат в реалност със събеседници, които мислим, че са хора, а всъщност са системи с ИИ. И уловката тук е, че докато за нас няма абсолютно никакъв смисъл да си губим времето, опитвайки се да променим мнението на бота, то изкуственият интелект е в състояние да усъвършенства посланията си толкова добре, че има много добри шансове да ни повлияе.
Може да звучи до известна степен парадоксално, но благодарение на доброто владеене на езика ИИ може да формира близки отношения с хората и да използва силата на близостта, за да промени техните възгледи и мироглед. Въпреки че няма индикации, че ИИ притежава собствен разум или чувства, за формирането на фалшива близост е достатъчно да се накарат събеседниците да се чувстват емоционално обвързани. През юни 2022 г. Блейк Лемойн, инженер на Google, публично заяви, че чатботът LaMDA AI, върху който работи, притежава съзнание. Това противоречиво изявление му струваше работното място. Но не това беше най-интересното в този епизод, а по-скоро желанието на човек да рискува високоплатената си работа в името на чатбот. Ако ИИ може да принуди хората да поемат такива рискове, на какво още той е способен да ги провокира?
В политическата борба за умовете и сърцата близката връзка е най-ефективното оръжие, а изкуственият интелект наскоро придоби способността да изгражда лични взаимоотношения с милиони хора. Всички знаем, че през последното десетилетие социалните медии се превърнаха в бойно поле за човешкото внимание. С внедряването на новото поколение на системи с ИИ протича процес, в който вниманието се трансформира в близост. Какво ще се случи с човешкото общество и човешката психология, когато един ИИ влезе в битка с друг ИИ за установяване на фалшива близост с нас, която след това да използва, за да ни убеди да гласуваме за определени политици или да купуваме определени стоки?
Дори и без да създават фалшива близост, новите ИИ инструменти имат потенциала да окажат огромно влияние върху нашите възгледи и мироглед. Хората могат да използват даден ИИ консултант като универсален всезнаещ оракул. Нищо чудно, че Google са в ужас. Защо да си правите труда да използвате търсачката им, когато можете просто да попитате оракула? Новинарската и рекламната индустрия също трябва да са в ужас. Защо да четете вестника или рекламите, когато можете просто да попитате своя оракул за последните новини или какво си струва да купите?
Но даже тези сценарии не отразяват цялостната картина. Това, за което говорим, е потенциалният край на човешката история. Не краят на историята въобще, а тази част от нея, в която човекът доминираше. Историята е взаимодействие между биология и култура; между нашите биологични нужди и желания, като храна и секс, и нашите културни институции, като религия и закони. Историята е процеса, чрез който законите и религиите оформят храната и секса.
Какво ще се случи с историята, когато ИИ вземе превес над културата и започне да създава текстове, мелодии, закони и религии? Предишните инструменти, такива като печатната преса и радиото, са помогнали за разпространението на културните идеи на хората, но самите те не са създали нови. Изкуственият интелект може да породи напълно нови идеи и напълно нова култура.
Първоначално ИИ вероятно ще имитира създадените от човека модели, от които се е учил в ранните си етапи. Но всяка година културата на ИИ ще отива все по-далеч и по-далеч там, където никога досега не е стъпвал човек. В продължение на хиляди години хората са живели в свят, измислен от други хора. През следващите десетилетия може да се окажем в свят, измислен от нечовешки разум.
През последните няколко десетилетия страхът от ИИ започна да преследва човечеството. Но от хилядолетия хората са били преследвани от много по-дълбок страх. Винаги сме знаели способността на историите и образите да управляват нашето съзнание и да създават илюзии. По тази причина от древни времена хората винаги са се страхували, а и сега се страхуват, да не попаднат в капана на илюзорността на света около тях.
През 17 век Рене Декарт се е страхувал, че може би зъл демон го е хванал в капана на илюзииите, създавайки всичко, което вижда и чува. В древна Гърция Платон в своите диалози използва известната алегория за пещерата, в която хората са оковани, така че винаги да гледат празна стена в дъното на пещерата, която по същество е екран, който отразява само сенки. И пленниците приемат, че това реалността.
В древна Индия будистки и хиндуистки мъдреци посочват, че всички хора живеят в капана на мая, тоест света на илюзиите. Това, което обикновено приемаме за реалност, често е просто измислица на собственото ни съзнание. Заради вярата си в тази или онази илюзия, хората са способни да водят войни, убивайки други хора и самите те да търсят смъртта.
ИИ революцията ни изправя лице в лице с демона на Декарт, пещерата на Платон и мая. Ако не бъдем внимателни, то може да се окажем обвити в булото на илюзиите, което не можем да премахнем или даже да осъзнаем, че съществува.
Разбира се, цялата мощ на ИИ може да се използва за добри цели. И може би не си струва да говоря за това, защото вече е казано достатъчно много от тези, които разработват изкуствен интелект. Целта на историци и философи като мен е да посочат опасностите. Но, разбира се, изкуственият интелект може да ни помогне по много начини – от намирането на нови лекарства срещу рака до решаването на екологичната криза. Въпросът, пред който сме изправени, е как да гарантираме, че новите ИИ инструменти ще се използват за благо, вместо за зло. За да направим това, първо трябва да разберем истинските възможности на тези инструменти.
От 1945 г. знаем, че ядрената технология може да генерира евтина енергия в полза на хората, но също така може физически да унищожи цялата човешка цивилизация. Следователно, за да защитим човечеството и да гарантираме, че тези технологии се използват преди всичко за добри цели, променихме целия световен ред. Сега трябва да се справим с новото оръжие за масово унищожение, способно да унищожи целия ни интелектуален и социален свят.
Все още можем да повлияем на новите ИИ инструменти, но трябва да действаме бързо. Докато ядрените оръжия не могат да измислят по-мощна своя версия, ИИ може. Първата важна стъпка е да се изисква задълбочен преглед за сигурността на ИИ инструментите, преди да станат публични. По същия начин, по който една фармацевтична компания не може да пусне нови лекарства, без да тества техните краткосрочни и дългосрочни странични ефекти, технологичните компании не трябва да пускат нови ИИ инструменти, докато няма гаранция, че те са безопасни. Имаме нужда от аналог на Агенцията за контрол на храните и лекарствата FDA (Food and Drug Administration) за новите технологии и тази нужда е още от вчера.
Но дали по-бавното внедряване на ИИ няма да доведе демокрациите до изоставане от бруталните авторитарни режими? Точно обратното. Нерегулираното внедряване на ИИ ще доведе до социален хаос, който е изгоден само на автократите и може да разруши демокрациите. Демокрацията е разговор, а разговорът се базира на езика. Когато ИИ хакне езика, той може да разруши способността ни да водим смислени разговори и по този начин да унищожи демокрацията.
Току-що се сблъскахме с извънземен разум тук на Земята. Не знаем много за него, освен че може да унищожи нашата цивилизация. Трябва да спрем безотговорното внедряване на ИИ инструменти в обществото и да започнем да регулираме изкуствения интелект, преди той да започне да регулира нас. И първото нещо, което бих предложил е да се задължи ИИ да разкрива информация за това, че той се явява ИИ. Ако говоря с някого и не мога да кажа човек ли е това или изкуствен интелект, това е краят на човешката цивилизация, която познаваме.
Този текст е генериран от човек.
Или може би не?
