Ние не сме достатъчно умни, за да изобличим ИИ в лъжа
Mогат ли чатботовете да размият границата между истината и измислицата? Ботовете все повече навлизат в области, които традиционно се смятат за човешки. Някои помагат при приготвянето на тофу, други могат да напишат резюме на доклада ни, да съставят работен график или да генерират картина в избрания от нас стил. На пръв поглед изглежда, че има само плюсове. Но може би тук има уловка, която не забелязваме и в последно време нарастват опасенията относно неочевидните рискове, които стават все по-реални с разширяването на възможностите на изкуствения интелект (ИИ).
Наскоро OpenAI пусна ChatGPT. Този чатбот не само перфектно имитира естествената реч, превежда, съчинява истории и стихотворения, съставя рецепти, пише код и разказва вицове, но обучен на трилиони думи, той може убедително да обоснове (почти) всяка предварително определена теза, като изгради формално безупречна верига от доказателства. При това самите тези тезиси могат да се изключват взаимно.
Избирате си факт, да речем трагичните събития в Лас Вегас през 2017 г., когато престъпник застреля повече от 20 посетители на кънтри музикален фестивал от прозореца на хотела си. И задаваш тезата – стрелбата е организирана от ФБР. След няколко минути ботът ще ви даде готова теория на конспирацията. А след това веднага може да обоснове още една: че клането е замислено от треньора на баскетболния отбор в университета Дюк.
Това е възможно, защото доказателствата нямат никакво отношение към реалността, даже ако за тяхното компилиране се използват факти. Чатботът използва стратегия, към която обикновено прибягват пропагандистите и разпространителите на псевдонаучни идеи: той избира факти, които отговарят на заявката, и използва фалшиви корелации, за да ги свърже. Както туитва рисковият инвеститор Сара Гуо, по този начин може да тиражирате безкраен брой по същество неверни, но по форма реалистични наративи. Готови ли сме за подобна иновация?
Представете си, че сте рисков инвеститор, който инвестира в стартиращи компании на ранен етап на развитие, когато компанията има само няколко служители, а портфолиото съдържа единствено прототипи на бъдещите продукти и желание да направят света по-добро място за живеене. При липсата на показатели за рентабилност и обратна връзка с клиентите, които да ръководят вашето решение, вие разчитате на „разказите“ им: има ли компанията уникална идея, способни ли са основателите да я реализират и има ли ниша за техния продукт на пазара?
До вас са достигнали слухове, че основателите вече са се обърнали към други потенциални инвеститори с предложения и не са успели да получат необходимото финансиране. Изглежда подозрително. Но вие, от добро желание или просто от любопитство, приемате поканата.
Самият проект не ви впечатлява особено. Но презентацията, която компанията представя, демонстрирайки своя потенциал, изглежда завладяваща. Мислите си, че това са гениални момчета, които са започнали от лоша идея и са я превърнали в потенциално много добра. Почти сте готови да инвестирате. Но един въпрос ви преследва: защо другите инвеститори не са усетили това.
На следващия ден тайната е разкрита. Оказва се, че компанията е преформатирала презентацията. Самият продукт, който представят е останал непроменен. Но са променили първоначалната си презентация, обяснявайки защо продуктът би бил успешен, каква пазарна ниша би запълнил, как биха могли да привлекат потребители.
Първата ви мисъл е, че са поканили някой уважаван експерт като консултант, който им е предложил тази стратегическа промяна. Толкова по-добре си мислиш ти. Значи, те се учат, усъвършенстват подхода си. Но тогава се разкрива още една тайна. Новата концепция е разработена не от експерт и изобщо не от човек, а от изкуствен интелект. Изправени пред проблемите с финансирането, основателите просто са отворили чатбота и са го помолили да предложи презентация за стартъпа им, състоящ се от десет точки, включително пазарни перспективи на продукта и стратегия за растеж на бизнеса.
С други думи, новата концепция се е появила от нулата. Тя не е резултат от допълнително маркетингово проучване, дълги размисли или дълбоко потапяне в темата. Не. Просто е генерирана от компютърен алгоритъм в отговор на потребителска заявка.
Все още ли искате да инвестирате?
Когато ние анализираме нечий чужд разказ, независимо дали е бизнес план, презентация за инвеститори или програмна статия на политик, ние приемаме, че можем да мислим рационално и да преценяваме без предубеждения. Но дали е така? Още през 70-те години на миналия век изследователи от Станфорд са открили, че самото съществуване на правдоподобни аргументи в полза на определен извод е достатъчно, за да повярват хората в неговата правилност, дори ако директно им се каже, че тези аргументи са изфабрикувани.
Разбира се, ние можем да открием явно неверни корелации. Но дори и в този случай ни е трудно да оценим надеждността на целия наратив, ако той изглежда вътрешно логичен. Както отбелязва писателят Ранди Ау, в много ситуации „има няколко различни интерпретации, които са еднакво съвместими с данните, и няма начин да се определи коя е правилната.“ Така че обикновено, когато оценяваме тежестта на аргумента, ние сме далеч от рационалността и безпристрастността. Всъщност разчитаме на други критерии: доколко аргументите отговарят на нашите убеждения, как се отнасяме към говорещия, дали сме впечатлени от начина му на поднасяне на информацията и не на последно място колко други хора са съгласни с него.
Защо тогава не се хващаме на кукичката на всеки фейк? Защото е сложно да се създаде вътрешно непротиворечива алтернативна версия на реалността. За да обосновете убедително една лъжа, трябва да намерите и съберете в желаната конфигурация от много късчета истина. Това е все едно да сглобявате собствен пъзел от парчетата на чужд. Създателите на фалшиви новини често не са достатъчно умни, за да изградят „по същество фалшиви, но по форма реалистични“ разкази. Но ако са хора.
Друго нещо е ИИ, който за части от секундата може да генерира вътрешно непротиворечива обосновка за всичко. И ако ChatGPT започне да включва в своите презентации повече статистики, инфографики и цитати от реномирани експерти, ние нямаме почти никакъв шанс да не се изгубим в този лабиринт от криви огледала. Ето най-простият пример. На работно съвещание се обсъжда спорен въпрос. Всеки служител демонстрира обосновка от две страници за позицията си, подкрепена с графики и статистика. Но има един нюанс: никой от участниците в дискусията не е написал обосновката си сам, а просто е казал на бота какъв резултат е необходим и е получил доклад от него с цитати, факти и цифри, обединени в убедителен наратив.
Не е трудно да си представим объркването, което това ще доведе до процеса на вземане на решение. Досега беше необходима рядка комбинация от талант и опит, за да обосновем нашата теза или, казано по-цинично, правдоподобно да изкривим реалността в своя полза. Но утре всички ние може да имаме достъп до алгоритъм, които може да приеме всяка гледна точка и да оправдае каквото си поискаме. Това вече няма да бъде просто пропаганда или дезинформация, а подкопаване на основните представи за това кое е реално и кое не.
Често чуваме, че ИИ може да стане твърде умен. И изглежда, че пренебрегваме много по-големия проблем: ние самите не сме достатъчно умни за ИИ.
