Кой сте вие по мнението на изкуствения интелект? Може да останете доста изненадан (Приложение)
На новата изложба на фонда Prada в Милано на посетителите се предлага да разберат, как изкуственият интелект (ИИ) ще ви характеризира като личност по външния ви вид. За тези, които не могат да посетят това събитие лично, е разработeн аналогичен онлайн-инструмент.
През 2009 година група учени от Стандфорд и Принстън учили компютрите да разпознават различни обекти. За тази цел са им били необходими множество изображения на животни , растения, предмети, а също и на хора. Всяка фотография е била категоризирана, след което е можело да бъде използвана за машинно обучение.
В резултат на това се е получил масив от данни с името ImageNet, състоящ се повече от 14 милиона изображения. Всички те са групирани в повече от 20 хиляди категории, като във всяка от тях средно има около хиляда фотографии. ImageNet е може би най-споменавания в научни статии масив от данни. Изследователите са го цитирали повече от 12 хиляди пъти досега.
При товa, както вече се спомена, в него има не само неодушевени предмети. В ImageNet има почти 3 хиляди категории, характеризиращи хората. Сред тях има относително безобидни описания като „мажоретка” или „бойскаут”. Но много категории, които са били създадени с помощта на хора-изпълнители от платформата Mechanical Turk на Amazon, предизвикват сериозно безпокойство. Има такива категории, като „лош човек”, „лицемер”, „неудачник”, „наркоман”, „длъжник” и „слабак”. Във всяка група има изображения на хора, взети от Flickr и други социални мрежи, които се използват без знанието на фотографирания човек.
ImageNet и другите масиви данни за обучение на невронни мрежи, историята на които датират още от 60-те години на миналия век, са станали главната тема на новата изложба, наречена “Обучение на хора” ( „Training Humans”), организирана от фонда Prada. Нейни куратори са изследователя Кейт Крауфорд и художника Тревор Паглен.

Източник: Marco Cappelletti/Fondazione Prada
На посетителите им се предлага да разгледат фотографии, които обезпечават работата на системите за компютърно зрение и лицево разпознаване. Освен това, те могат да видят как изкуствен интелект, обучен с изображенията на ImageNet, ще ги определи.

Източник: Marco Cappelletti/Fondazione Prada
За тези, които няма да могат да посетят Милано, Крауфорд и Паглен са създали онлайн-инструмент с името „Рулетката на ImageNet” ( ImageNet Roulette ще е достъпно за ползване до 27 септември), който също класифицира хората според категориите на ImageNet. В него можете да се фотографирате на уеб-камера или да качите готова фотография, и приложението ще изпиши класификацията за вас според изкуствения интелект.
Крауфорд и Паглен демонстрирали програмата в началото на тази година със своите собствени портрети и фотографиите на разработчика на приложението Лейф Риге. Изкуственият интелект определил Крауфорд като „героиня”, Паглен – „член на Ку-клус-клан”, а Риге като „ужасен”, „бездомен” и „анархист”.

Източник: Marco Cappelletti/Fondazione Prada
„Аз мисля, че класификацията на снимките на хората за обучение на изкуствен интелект заслужава много повече внимание, отколкото му е отделяно досега” – казва Паглен.
Крауфорд и Паглен се надяват да опровергаят разпространеното убеждение, че ИИ-класификацията на хора е неутрална. Крауфорд подчертава, че в обучението на алгоритмите е бил задействан субективния опит на изпълнителите, класифициращи фотографиите.
Въпреки че много масиви от данни за машинно обучение притежават сериозни недостатъци, те продължават да се използват както от учените, така и от бизнеса. Но Крауфорд има някои идеи, които биха могли да подобрят ситуацията, за да могат бъдещите изследователи, ако не друго, поне да разберат за съществуващите проблеми.
През 2018 година Крауфорд в сътрудничество с още осем учени е работила в проект за създаване на нови белези за фотографиите. Тези белези съобщават откъде са взети тези изображения, давал ли е заснетият човек своето съгласие за това и друга подобна информация. Такива етикети вече се използват, въпреки че това е много малка крачка към осъзнантото използване на изображения за обучение на изкуствен интелект.
За Паглен въпросът, за това, как да се направят тези масиви данни за ИИ по-малко примитивни и неточни, е по- глобален. Тъй като той смята, че технологиите не могат да бъдат неутрални, предлага на разработчиците на системи за изкуствен интелект да си зададат въпроса дали действително класификацията на хората се явява част от работата, с която те искат да се занимават.