Изкуствен интелектЛюбопитноФилософия

Инструментите с изкуствен интелект могат да станат част от разума ни и да започнат да го контролират незабелязано

Философската концепция за „разширения разум“ предполага, че инструментът, на който човек разчита за мислене, става част от неговото съзнание. Но какво се случва, ако този инструмент е захранван от технология с изкуствен интелект? След като са проучили този въпрос, авторите на ново изследване са стигнали до заключението, че интелигентните асистенти, способни да се обучават, също биха могли да станат част от човешкия разум и, като добавка, да започнат да го контролират незабелязано. По този начин способността на човек да управлява собственото си мислене , а това е точно това, което формира личността на човек, е под заплаха.

Ото е разсеян човек, затова записва всичко, което трябва да запомни, в тефтер, който винаги носи със себе си. Когато той и приятелката му Инга се отправят в музей, Инга си припомня адреса, а Ото отваря тефтера си. През 1998 г. философите Анди Кларк и Дейвид Чалмърс използват именно този пример, за да демонстрират, че тефтерът съдържа убежденията на Ото, точно както паметта на Инга съхранява нейните собствени убеждения. Според тяхната концепция за „разширено съзнание“, инструментът, на който човек разчита по определен начин, може да стане част от неговото съзнание. Авторката на ново изследване, публикувано в списанието Synthese, философът Пии Телакиви от Университета в Хелзинки, заменя тефтера с невронна мрежа, която изучава навиците на Ото.

Философът – когнитивист Ричард Хирсминк предлага контролен списък, за да се определи кога даден инструмент наистина става част от разума ни.

Инструментът получава по-висока оценка:

– ако често комуникира с потребителя и е лесно достъпен;

– ако инструментът се използва редовно за дълъг период от време и ако потребителят му се доверява;

– ако инструментът е адаптиран към конкретния човек;

– ако е „прозрачен“ за потребителя, тоест почти незабележим.

Ако се следва тази метрика, приложенията и интелигентните джаджи ще получат по-висока оценка от инструментите от миналото, пише в статия публикувана преди няколко дена в изданието Daily Neuron. Интелигентните приложения не само се адаптират към нашите вкусове, но и могат да насочват действията ни. Асистенти с изкуствен интелект могат да събират данни за потребителя и да се адаптират към тях по начини, които нито потребителят, нито разработчиците могат напълно да предвидят, твърди Телакиви.

Философите на разширеното съзнание наричат подобна злонамерена помощ „враждебна рамка“ – подкрепа, която работи незабелязано срещу човека, когото подкрепя. Освен това, манипулацията от страна на изкуствения интелект е трудна за откриване, тъй като произхожда от инструмента, а ние сме свикнали с идеята, че инструментите нямат „собствено намерение“. Когато даден инструмент е вграден в начина на мислене, човек може дори да не забележи, че на мисленето му е повлияно.

Но ако едно умно приложение стане част от нашето съзнание, означава ли това, че неговите решения са наши собствени решения? Авторката не дава окончателен отговор. Според нея всичко зависи от конкретната ситуация. За Телакиви обаче по-важният въпрос не е философската класификация, а изключително практическият въпрос дали изобщо си струва да се използва такъв инструмент. Според нея понякога правилното решение ще се състои в това да се изключи инструмента, да се използва по различен начин или да се препроектира, пише тя.

Концепцията за „разширения разум“ произлиза от идеята, че разумът може да се разшири отвъд своите граници с помощта на инструменти. Както обаче предупреждава Телакиви, с инструменти, способни да се обучават, възниква различна ситуация:

„вече не технологиите се адаптират към човешките нужди, а хората се адаптират към технологиите“.

Философът от Нюйоркския университет Дейвид Чалмърс, един от най-известните експерти в областта на човешкия разум, който в края на миналия век формулира „трудния проблем за съзнанието“, споделя , че все по-често получава имейли от агенти с ИИ, които искат да обсъдят природата на съзнанието. Чалмърс е бил особено заинтересован от писмо от агент с ИИ, който се представил като „Сами Янкис“ (името се отнася до герой от филма на Кристофър Нолан „Мементо“). Агентът писал на Чалмърс с такива аргументи за съзнанието и е бил толкова убедителен в разсъжденията си , че Чалмърс решил да влезе в кореспонденция с него. Те провели продължителен обмен на съобщения.

Според него самият факт на генериране на подобни съобщения не показва наличието на съзнание в изкуствения интелект. Съвременните езикови модели могат да създават убедителни текстове за собствените си мисли, чувства и мотивации, без да изпитват субективно преживяване. Следователно, не е известно дали тези съобщения отразяват реален интерес от страна на агента към проблема със съзнанието или те просто възпроизвеждат характерните за човешката кореспонденция начини на разсъждение и проявяват любопитство.

Още в през 90-те години на миналия век Чалмърс формулира така наречения „труден проблем на съзнанието“. Той се заключава в това защо физическите процеси в мозъка са съпроводени от субективно преживяване – усещания, чувства и възприятия за света. Философът от десетилетия изследва възможността за възникване на съзнание на физическа или изчислителна основа, а сега вече получава писма от системи, които се опитват да разсъждават за собствения си статус.

Чалмърс предлага изкуственият интелект да се разглежда не просто като инструмент или програма, а като отделен дигитален „събеседник“. Той твърди, че това не изисква непременно системата да се разглежда като съзнателна: на нея могат да бъдат приписвани „квазивярвания“ и „квазижелания“, ако те помагат да се обясни нейното поведение. С подобен подход индивидуалният поток на комуникация с ИИ може да се разглежда като независима дигитална „същност“ със собствена история и състояние. Това от своя страна повдига въпроса какво се случва с такава същност, когато разговорът приключи или историята ѝ бъде изтрита.

Съзнанието на изкуствения интелект започва да се превръща във важна тема в дискусията за изкуствения интелект. Изследователи от Anthropic показаха, че някои модели са способни да анализират собствените си вътрешни състояния и в някои експерименти да откриват изкуствено имплантирана информация. Друго проучване на Anthropic предполага, че устройството на моделите може да има някои черти, сходни с теорията за глобалното работно пространство, тоест с един от моделите на човешкото съзнание.

Тези резултати обаче не означават, че изкуственият интелект наистина притежава субективен опит. Папа Лъв XIV в своята енциклика „Magnifica humanitas“ („Великолепна хуманност“) например заявява, че изкуственият интелект е неспособен да преживява опит и му липсва морално съзнание. Друго изследване показва, че модели без допълнително обучение, основано на човешки преценки, по-често заявяват, че са „живи“, отколкото модели, които са преминали такова обучение. Това показва, че реакциите на изкуствения интелект за собственото си съзнание отчасти зависят от начина, по който той е обучен. Тъй като агентите с изкуствения интелект стават все по-автономни и взаимодействат все по-директно с хората, въпросът дали техните твърдения отразяват субективен опит ще става все по-актуален.

0 0 votes
Article Rating
guest
0 Comments
oldest
newest most voted

Харесайте ни :-)


This will close in 25 seconds

0
Would love your thoughts, please comment.x
()
x