„Слепите“ зони на изкуствения интелект: в какво компютърът не може да изпревари човека
Една от най-важните особености на човешкия интелект е откриването и изследването на причинно-следствените връзки във всичко, което го заобикаля. В момента и най-добрите алгоритми за изкуствен интелект (ИИ) не притежават тези способности. Екип от американски учени е разработил интелектуален тест за системи с изкуствен интелект , в който те трябвало да разпознават причинно-следствени връзки, а не закономерности. Успеваемостта на най-новите системи с ИИ при този тест е била под 10%.
Даже и малко дете може да направи това, което така или иначе, досега не може да се научи да направи изкуствения интелект.
Тревожен факт: автономен автомобил , предвижващ се по пътя и лавиращ в задръстванията, по-лошо разбира какво може да доведе до катастрофа, отколкото дете, което сега се учи да ходи.
Нов експеримент показва колко е трудно, даже и на най-добрите системи за изкуствен интелект, да усвоят елементарната физика, а също така да определят причината и следствието. Именно затова постоянно се търсят нови подходи за създаване на системи за изкуствен интелект, които да са способни да определят причината за случващото се.
Екип от Масачузетския технологичен институт (MIT) се е заел с изясняването до колко най-новите системи с изкуствен интелект могат да разпознават причинно-следствените връзки.
„Експериментът беше разработен по такъв начин, че да излезе извън рамките на елементарното разпознаване на закономерностите – казва Джош Тененбаум. професор от Масачузетския технологичен институт, който е бил начело на екипа, работил по този проблем – Големите технологични компании биха искали да имат такива системи, които са способни да правят това“.
Дълбокото обучение в момента е най-популярната и напреднала методика за изкуствен интелект, която в последно време постигна невероятни успехи и предизвиква нарастващо възхищение от възможностите на изкуствения интелект. Сред тези успехи е възможността невронните мрежи да бъдат „захранени“ с голямо количество обучаващи данни, след което алгоритъмът за дълбоко обучение да разпознава сред нови данни различни закономерности, включително изображения и глас. Но на такива системи не им достигат други способности, които са тривиални за човека.
За да демонстрира пропуските на ИИ, Тененбаум и неговите колеги, са създали нещо като интелектуален тест за системи с изкуствен интелект. В хода на проверката, на ИИ се показва елементарен виртуален свят, изпълнен с няколко движещи се обекта, заедно с въпроси и отговори за мястото на събитието и за това какво точно се случва там. Въпросите и отговорите се отбелязват по същия начин, както например, се отбелязват картинки с надпис „котка“, които ИИ разглежда, учейки се да разпознава обекта „котка“.
Оказало се, че и най-добрите системи с ИИ имат голяма „сляпа“ зона. На описателен въпрос от рода „Какъв цвят е този обект?“ ултрасъвременният алгоритъм с ИИ отговаря правилно в повече от 90% от случаите. Но на следващи по-сложни въпроси, такива като „По каква причина топката се сблъска с куба?“ или „Какво щеше да се случи, ако обектите не бяха се сблъскали?“ същата система с ИИ отговаря правилно само в 10% от случаите.
Дейвид Кокс, директор на лабораторията MIT-IBM Watson AI Lab , който също е участвал в изследването, обяснява, че разбирането на причинно-следствената връзка е принципиално важна за ИИ.
„Ние хората сме способни да разсъждаваме за причината и следствията, и затова на нас са ни необходими системи с изкуствен интелект, които могат да правят абсолютно същото“- обяснява Кокс.
Липсата на такова разбиране може да има много сериозни последствия. Например, промишлените роботи се учат да виждат и да чувстват близкостоящите обекти, за да могат след това да ги вземат и да ги преместят. Но те не знаят, че ако бутнат нещо, то може да падне или да се счупи. За тази цел те трябва да бъдат специално програмирани, но от друга страна е невъзможно да се предскаже всеки един сценарий.
Ако роботът можеше да разсъждава, използвайки причинно-следствените връзки, той щеше да може да избегне проблеми, за разбирането на които той не е бил програмиран. Например, това се отнася за автономния автомобил. Ако той имаше тези възможности, то щеше да знае, че ако камион се сблъска с препятствие, неговия товар ще се изсипе на пътя.
Осмислянето на причините би било полезно практически за всяка система с ИИ. Системите, обучени с медицинска информация, а не с тримерни изображения, трябва да разбира причината за заболяването и вероятния резултат от възможните интервенции. Затова въпросът с причинно-следствените връзки предизвиква нарастващ интерес сред всички разработчици на системи с изкуствен интелект.
„Всичко това води към системи с изкуствен интелект, които могат не само да се обучават, но и да разсъждават“ – казва Кокс.
Професорът от Университета Карнеги-Мелон Кун Чжан смята, че тестът, разработен от Тененбаум, е много важен, тъй като осигурява добър начин за измерването на причинно-следствените връзки, макар и в доста ограничени условия.
„Методите на обучение за разбирането на причинно-следствените връзки ще донесат голяма полза в разработването на по-универсални системи с ИИ“ –казва Чжан.
Тененбаум и неговите колеги не само са открили слабите места в съществуващите програми с изкуствен интелект, но и са създали нов тип системи с ИИ, способни да разбират причините и следствията. Тази система е показала по-високи резултати в създадения от тях интелектуален тест. Подходът им съчетава в себе си няколко техники за създаване на изкуствен интелект. Системата използва дълбоко обучение за разпознаване на обектите на даденото място. Резултатите от обучението се предават в програмен продукт, който строи тримерен модел на мястото на събитието и взаимодействията на обектите в него. Този подход изисква създаването на много повече компоненти ръчно, отколкото при сега съществуващите алгоритми за ИИ. Въпреки показаните по-добри резултати, Тененбаум предупреждава, че засега този алгоритъм е ненадежден и лошо се мащабира. Но така или иначе, за да се усъвършенстват системите с ИИ ще е нужно съчетаване на досегашните подходи с новите идеи за разпознаване на причинно-следствените връзки.
„Нашият разум осъществява причинно-следствени връзки и използва тези модели за отговор на произволни проблеми и въпроси, но в момента и най-добрите системи с ИИ са далеч от това да могат да възпроизведат тези способности“ – казва Брендън Лейк, доцент от катедрата по психология и науки за данните в Ню Йоркския университет.
Професорът от Харвардския университет Самуел Гершман, който си е сътрудничил с Тененбаум в други проекти, добавя, че машината няма да може да се приближи към човешкия интелект без разбирането на причинно-следствените връзки. Като пример той посочва един добре известен медицински факт: жените умират по-рядко от прекалената употреба на алкохол, отколкото мъжете.
„Системата с изкуствен интелект, не разбирайки причинно-следствената връзка, може да си направи извод, че за намаляване на смъртността е необходима смяна на пола на мъжете“ – се шегува той.