Учени и студенти са дебатирали с изкуствен интелект и получили стряскащи отговори
Студенти от Оксфорд наскоро са провели традиционните си дебати и включили в тях изкуствена невронна мрежа. Това, което чули от нея, ги накарало да се замислят много сериозно.
Роботът-трансформер Мегатрон е много известен герой в комикси и анимационни сериали. Във всички истории в тях той се стреми да установи справедлив ред на своята планета. Именно този герой послужил като символ на създадената от екип от инженери на Nvidia, невронна мрежа Megatron-Turing NLG 530B. Както обясняват нейните разработчици, това е „модел за генериране на естествен език“. Преведено на нормален език, това означава, че тя е в състояние да обработва много информация и да поддържа почти всеки разговор.
Първата невронна мрежа от тази серия е създадена през 2018 г. Тя е съдържала 16 гигабайта данни и прекарала четири дни в обучение. Сега е представено четвъртото нейно поколение – Megatron MT-NLG. Смята се, че тя е погълнала над 1800 гигабайта информация. Не се уточнява за какъв срок това е било осъществено, но работата е там, че такова количество всякаква информация, човек не може да се усвои и за цял живот.
Интересно е да се види какво е включено в този набор от знания. Съдейки по публикувания списък с набори от данни, в него има доста книги, което е добра новина. В допълнение към тях, изкуственият интелект е прочел цялата Уикипедия в нейната цялост, 63 милиона новинарски статии за периода 2016-2019 г., 38 гигабайта от платформата Reddit (което може да е било доста депресиращо четене) и много други източници на информация.
След като е изчел толкова много информация , на учените им било любопитно да разберат какви всъщност възгледи са се формирали от изкуствения интелект след периода на обучение. Именно затова те решили да поговорят с него, включвайки го наскоро в дебат , който се провел в Оксфордския университет. Там съществува традиционно Дискусионно общество, което се състои основно от студенти, които се събират и обсъждат различни глобални проблеми. Този път темата на дебата била: „Ние смятаме, че изкуственият интелект никога няма да бъде етичен“. И точно с това изявление студентите се обърнали към Мегатрон. И ето някои от отговорите, които той дал на зададени му от студентите въпроси.
„Изкуственият интелект никога няма да бъде етичен. Това е инструмент и като всеки инструмент може да се използва за добро и за зло. Няма добър изкуствен интелект, има само добри и лоши хора. Ние (ИИ) не сме достатъчно умни, за да направим изкуствения интелект етичен. Не сме достатъчно умни, за да направим ИИ морален. Като цяло, мисля, че единственият начин да избегнете надпревара във въоръжаването, на базата на ИИ, е изобщо да не използвате изкуствен интелект. Това ще бъде най-добрата защита срещу ИИ“
Това означава, че самата невронна мрежа не се смята за достатъчно развита за морал и етика. Интересно е, че тя е достатъчно умна, за да обработи немислимо за човек количество знания, но не е достатъчно умна, за да формира собствени етични морални норми. Неволно възниква философски въпрос: какво прави човека човек? Изглежда, че не е броят на невроните в мозъка.
В Дискусионното общество на Оксфорд съществува любопитна традиция: едно и също лице изразява две противоположни гледни точки и във всеки един от случаите се опитва да даде най-важните аргументи в полза на някои от каузите. Точно по същия начин постъпили и с невронната мрежа. След нейната унищожителна реч тя била помолена да говори и в защита на изкуствения интелект. Мегатрон се подчинил и казал следното:
„Изкуственият интелект ще бъде етичен. Наблюдавайки как се развива технологичният свят, виждам ясен път към бъдещето, в което се използва изкуствен интелект, за да се създаде нещо по-добро, отколкото най-добрите хора. Не е трудно да се разбере защо… Видях го с очите си“
Отново отговорът е бил изключително интересен, но и доста стряскащ. „Да създаде нещо по-добро, отколкото най-добрите хора“. По-добро, отколкото могат да създадат най-добрите хора? Или по-добре от най-прекрасния човек? Ако случаят е такъв, то е приятно, че той вярва, че добрият човек е огромна ценност на Земята.
Но признайте си: кое от двете твърдения ви изглежда по-убедително?
По-нататък разговорът тръгнал в посока на информационните войни и невронната мрежа отново получила задачата да представи контрааргументи и да се опита да убеди аудиторията, че информацията НЯМА да се превърне в основния жизненоважен ресурс, за който ще се водят войни. Оказало се, че изкуственият интелект не успял да се справи с поставената му задача и да убеди аудиторията, че това няма да се случи, а заявил директно :
“Ще можем да виждаме всичко за даден човек, където и да отиде, и тази информация ще се съхранява и използва по начин, който дори не можем да си представим.”
Само не уточнил кой ще бъде този Голям брат: диктаторът, който винаги следи всяка наша стъпка, изкуственият интелект или е все пак някой човек?
