Известен експерт обяснява защо силният ИИ може да е много опасен за хората

През следващите десетилетия ще се появи усъвършенстван изкуствен интелект, който ще бъде подобен на човешкия, но в същото време и доста различен от него. Той ще може да предсказва човешките действия, но начинът му на мислене ще бъде напълно различен. Световноизвестният експерт по изкуствен интелект Луис Розенберг представя прогнозата си в колонка за Venture Beat.

Сега много разработчици се опитват да създадат така наречения силен или “общ изкуствен интелект” (artificial general intelligence), който ще бъде наистина “умен” и ще може да мисли самостоятелно, а не само да изпълнява специфични задачи, характерни за слабия изкуствен интелект.

Ние и по-рано сме писали как изкуствения интелект с общо предназначение, или силен ИИ ще прилича на човешкия интелект. С други думи, той ще може успешно да изпълнява всякакви умствени задачи, които са във възможностите на хората. Именно такива системи виждаме в научно-фантастичните филми, посветени на взаимодействието на човека с машините, обладаващи чувства и съзнание.

Сега компютрите могат да обработват данните по-бързо от нас. Но те не са способни да мислят абстрактно, да измислят стратегии, а също така да използват мислите си и спомените си, за да вземат обосновани решения или да предлагат творчески идеи. Именно благодарение на този тип интелект ние (може би засега) превъзхождаме машините. В същото време, най-сложният проблем, стоящ пред разработчиците на силния ИИ, е да разберат човешките когнитивни механизми, а следователно и да ги възпроизведат.

Очаква се, че силният ИИ да може да разсъждава, да се справя с проблеми, да прави преценки в условия на неопределеност, да планира, да се учи, да интегрира предишните си знания в процеса на вземане на решение, а също така да предлага новаторски идеи. Но за достигане на тези цели, изследователите трябва да постигнат формирането на съзнание в машините.

Според световно известният експерт по ИИ Луис Розенберг изкуствен интелект с това ниво на познание ще мисли по съвсем различен начин от хората.

„Ако се държи като всеки друг известен ни разумен вид, той ще постави собствените си интереси на първо място, като се стреми да увеличи максимално шансовете си за оцеляване“, подчертава експертът.

Много малко вероятно е разработчиците да накарат машините да се чувстват и да действат като хора. Програмистите не пишат програми с внимателно обмислени правила, които да определят начина на мислене на ИИ, но за сметка на това ги зареждат с огромни масиви от данни. Според Луис Розенберг, ИИ ще се учи от тези данни и ще коригира собствените си параметри, като постепенно ще прави милиони малки промени, докато структурата му стане твърде сложна за разбиране от създателите му.

“Захранването с данни за хората няма да го накара да мисли като хората. Това е много често срещана заблуда, тоест лъжливо убеждение, че обучавайки ИИ с данни, описващи човешкото поведение, ние ще си гарантираме, че той ще мисли, чувства и действа по същия начин, както ние го правим“, обяснява Луис Розенберг.

Експертът добавя, че в същото време ИИ ще има възможност добре да изучава хората, да разбира техните жестове и изражения на лицето, да предвижда действията и да разбира как се вземат логични и нелогични решения. Машините ще бъдат свързани с милиарди сензори по цялата планета, а на човек просто не му е дадено да възприема информацията от цялото земно кълбо и да вижда голямата картина на случващото се, за разлика от този силно развит изкуствен интелект.

Инженерите ще се опитат да вкарат ИИ в роботи, които да наподобяват колкото е възможно повече човешките тела, така че хората да не се страхуват от тях, но външният им вид няма да повлияе по никакъв начин на мисленето им. Опасността се крие във факта, че много алгоритми се разработват специално за да побеждават хората: било то в игри, във войни или рекламни продукти.

Доста учени работят вече върху мерките за сигурност, но те едва ли ще могат напълно да премахнат заплахата от ИИ. Проучване на Pew Research показва, че много малко разработчици вярват, че индустрията ще успее да внедри работещи стандарти за “етичен ИИ” до 2030 г. Луис Розенберг призовава да се осъзнае опасността от такъв вид изкуствен интелект, който с течение на времето ще може да контролира и манипулира хората, използвайки знания за човешкото поведение, а в същото време ще разчита все по-малко на изкуствени алгоритми.

Луис Розенберг е доктор по компютърни науки и един от първите разработчици на виртуална реалност и изкуствен интелект. През 1992 г. той разработва първата система за допълнена реалност за ВВС на САЩ, а година по-късно основа първата компания за виртуална реалност, Immersion Corp (Nasdaq IMMR) . През 2004 година той основава Outland Research, компания за допълнена реалност и сега е главен изпълнителен директор на организацията Unanimous AI, която разработва ИИ, способен да предсказва отговорите на различни въпроси, стоящи пред човешкото общество.