Роботите могат да ни победят във виртуално сражение, така че реалната армия не трябва да бъде под техен контрол
Тоби Уолш, професор в областта на изкуствения интелект в Университета на Нови Южен Уелс, Австралия е обезпокоен от растящата роля на роботите в бойните действия. Започвайки от 1991 година с войната в Персийския залив , те помагат на генералите. А сега е създаден и „робот-убиец”, машина, която сама взема решения за унищожаване на враговете, ако това съответства на общата политика на „контролния център”.
Разработчикът на изкуствен интелект компанията Deep Mind (дъщерна компания на Alphabet, т.е Google- бел.ред) анонсира новина. Бот с името Alpha Star ще играе в популярната онлайн стратегия Starcraft-2 на ниво „гросмайстор”.
Бот не за пръв път побеждава хора в стратегическа военна игра. През 1981 година програма с името Eurisko, разработена от един от пионерите в изкуствения интелект Дъг Ленат, победи в шампионата на САЩ в Traveller – много сложна стратегическа военна игра, в която играчът трябва да окомплектова своя флот и да се срази с флота на противника. След шампионата на Eurisko му е присвоено званието почетен адмирал на Traveller. През 1982 година правилата на играта са променени в опит да се попречи на компютъра. Но Eurisko пак побеждава две години подред. Накрая спонсорите заплашили да отменят турнира, ако компютърът пак победи. Ленат отстъпил.
Отделът за връзки с обществеността на Deep Mind, иска да повярвате, че StarCraft „се е появила с консенсус като следващото грандиозно предизвикателство (в компютърните игри)” и „ е била голямо предизвикателство за разработчиците на изкуствен интелект повече от 15 години”.
На последния шампионат по Starcraft само четири заявки са подадени от академични и промишлени изследователски лаборатории. Девет други бота са написани индивидуално, а не в рамките на основните направления на развитие на изкуствения интелект (ИИ).
По принцип, количеството автори (42) в статията на Deep Mind, публикувана на 31 октомври в Nature, съществено превишава числото хора, занимаващи се с ботове за Starcraft в останалия свят. Не искам да хвърлям сянка върху успеха на това инженерно сътрудничество , но ако вие влагате достатъчно ресурси в решението на даден проблем, успехът е гарантиран.
За разлика от победите си в компютърния шахмат, Alpha Star не е бил обучен чрез игра сам срещу себе си. Той се е научил на това, имитирайки най-добрите епизоди от почти милион игри, изиграни от най-добрите хора-играчи. По време на обучението Alpha Star е претърпял загуби в 19 от 20 игри., играейки с истински хора на игровия сървър StarCraft. AlphaStar е играл анонимно , за да не могат хората да използват слабостите, които можело да бъдат открити в предните игри.
Миналия декември Alpha Star е победил един от най-добрите професионални играчи в света – Гжегож „MaNa” Коминч. Но това е била версия на Alpha Star с рефлекси, които били съществено по-бързи от човешките. Освен това ботът е бил с неограниченото виждане на игралното поле (за разлика от хората-играчи, които виждат само една част от него в определен момент). Това много трудно могат да се нарекат равни условия.
Но така или иначе , в StarCraft има някои особености, правещи Alpha Star впечатляваща разработка, ако не и истински пробив. За разлика от шаха или източната игра Го (стратегическа игра с дъска от 361 полета –бел.ред.) , играчите в StarCraft имат непълна представа за моментното състояние в играта, като при това възможните действия в нея са значително повече. Трябва да се отчете и факта, че боят в StarCraft протича в реално време, но изисква дългосрочно планиране.
Войната на роботите
Възниква въпроса дали ще видим в бъдеще, как роботите не само ще участват във военни действия, но и ще ги планират? В действителност както едното, така и другото вече се случва.
Въпреки многото предупреждения от страна на изследователи на изкуствения интелект, основатели на технологични компании, лауреати на Нобелови награди и църковни лидери, вече е създадено напълно автономно оръжие, известно като “робот-убиец” и в близко бъдеще то ще бъде използвано.
През 2020 година Турция ще разгърне дронове-камикадзе на границата си със Сирия. Тези дронове ще използват компютърно зрение, за да идентифицират, проследяват и убиват хора без човешка намеса.
Това е ужасяваща разработка. При компютрите няма морални възможности да се приема морално претеглено решение кой да живее и кой да умре. Те не притежават емпатия или съчувствие. „Роботите-убийци” ще променят самата природа на конфликтите в негативна насока.
А какво да кажем за „роботите-генерали”? Компютрите десетилетие наред помагаха на генералите да планират войните. Още в началото на 90-те на миналия век, по време на операцията „Пустинна буря” в Персийския залив, инструментариумът на изкуствения интелект е бил използван , за да се планира нарастването на военните сили в Близкия Изток преди началото на конфликта. Един генерал от американската армия скоро след това ми каза, че икономисаните средства са били равни на тези, които преди това са инвестирани за разработването на ИИ.
Генералите използват компютрите и за разработване на многовариантни военни стратегии, от които може да възникне нужда. Но ние не даваме в ръцете на един войник всички решения на бойното поле, и затова да прехвърлим отговорността от мозъка на генерала на процесора на компютъра означава, че ще стигнем твърде далеч.
Машината не може да бъде привлечена към отговорност за приетите от нея решения. Отговорност могат да носят само хората. И това е крайъгълен камък на международното хуманитарно право. Но така или иначе, за да се промъкнат през мъглата на войната и да се ориентират в огромното количество информация, идваща от фронта, генералите все повече ще се опират на помощта на компютрите за своите решения.
Ако резултат от това бъдат по-малко жертви сред гражданското население, намаляване случаите на „приятелски огън” и повече уважение към международното хуманитарно право, то такава компютърна помощ само може да се приветства. Но окончателното решение винаги трябва да се взема от човек, а не от машина.
А ето и последния въпрос, над който си струва да помислим. Ако технологичните компании, такива като Google, наистина не желаят ние да се страхуваме от въстание на роботите, защо те се занимават със създаване на ботове, които да побеждават във виртуални войни, вместо да се фокусират над нещо по-миролюбиво, например мирни електронни игри? При цялото ми уважение към спортните фенове, трябва да се признае: залозите ще са много по-ниски.
