Нечовешки решения: кого ще пренесе в жертва безпилотен автомобил?
Поведенческият психолог Дан Ариели изучава от какви принципи трябва да се ръководи изкуствения разум в условията на морален избор.
Технологиите около над стават все по-умни . Много по-умни. И тази нарастваща разумност носи много ползи на хората и обществата. В частност, по-разумни технологии означава, че те могат да вземат по-ефективни решения вместо нас, а ние да се наслаждаваме на резултатите от така взетите правилни решения без необходимостта да полагаме усилия. Това звучи все по-вълнуващо – най-добрите решения с минимални усилия. Но проблемът се състои в това, че решенията понякога изискват морални компромиси и в тези случаи ние трябва да си задаваме въпроса , готови ли сме да доверим моралните решения на нечовешка система.
Един от най-ярките примери за такива морални решения е свързан с автономните транспортни средства. Безпилотните автомобили ще решават по кое пътно платно трябва да карат и на кого трябва да се отстъпи път на оживено кръстовище. Но освен тези пътни въпроси, те ще трябва да вземат много по-сложни от морална гледна точка решения. Например, да пренебрегнат ли правилата за движение по пътищата, когато ги молят да карат максимално бързо към болницата в случай на срочна необходимост или да изберат чия безоопасност е приоритетна в случай на неизбежна катастрофа. Вземайки това под внимание, става ясно, че да се даде на изкуствения разум да взема решения не е толкова проста задача. За тази цел се изисква много добър модел на нашия собствен морал, ако ние искаме безпилотните автомобили да вземат решения вместо нас.
Това ни подсказва и основния въпрос. Как трябва да се проектира изкуствения разум от етична гледна точка? Кой трябва да е ръководния принцип, който ние трябва да използваме в него? Трябва ли тези машини да поставят интересите на своите собственици по-високо от тези на останалите хора? Трябва ли да се разглеждат всички живи същества като равни? Какъв автомобил искате да видите за себе си и за съседа?
Ние използвахме експериментален подход за да определим общите знаменатели и потенциалните предрасъдъци на човешкия разум в такива ситуации. В нашите експерименти се базирахме на проекта The Moral Machine ( това е проект с отворен достъп на Масачузетския технологичен институт за решаване на морални казуси и ако искате може да преминете теста за различни пътни ситуации тук– бел.ред. ) и използвахме вариант на класическата дилема за ваготетката. Това е мислен експеримент, в който хората трябва да решават какво ще изберат между различни нежелателни ситуации при различни условия. В нашите дилеми на участниците беше предложено да избират кого трябва да пожертва автономния автомобил в случай на неизбежна катастрофа: пътниците в транспортното средство или пешеходците на улицата. Резултатите от нашите изследвания са публични и всеки може да се запознае с тях.
Ако трябва накратко да обобщим, ние открихме две предубеждения, които влияят на избора на жертва (пешеходец или пътник). Първото предубеждение е свързанo със скоростта на вземане на решение. Ние установихме, че бързите, интуитивни морални решения водят до убийство на пътниците, независимо от конкретната структура на дилемата, докато при балансираните, обмислени решения хората са склонни по-често да жертват пешеходците. Втората предубеденост е свързана с първоначалната гледна точка на лицето, изказващо своето мнение. Тези, които започват с грижа за пътниците, по-често жертват пешеходците, и обратно. Интересно е, че като цяло хората предпочитат да спасяват пътниците, а не пешеходците.
Това, което ние разбрахме от своите експерименти и от The Moral Machine е, че трябва да се вземат някакви решения. Искаме ли ние автономните автомобили да отразяват нашия собствен морал и предубеждения, или искаме това да бъде морала на Дейта от сериала „Звезден път”? И ако тези машини имитират нашия собствен морал, искаме ли този морал да се базира на непосредствените интуитивни чувства или той да се базира на чувствата, които проявяваме след известно обмисляне над моралната дилема?
Тези въпроси може да ви се сторят като академичен или философски дебат, но скоростта, с която автономните превозни средства се приближават, прави тези въпроси важни и актуални за да можем да проектираме най-добре нашето, съвместно с технологиите, бъдеще.
