„Конституция за изкуствения интелект “: Защо OpenAI, Anthropic и Google масово наемат философи
Как изкуственият интелект превърна философията в професия на бъдещето? Преди десет години студентите по хуманитарни науки бяха съветвани да учат програмиране, за да избегнат безработицата. С напредването на изкуствения интелект самите програмисти стават все по-загрижени за работата си, а работодателите се насочват към завършилите философия.
Професия: Философ
През 1703 г. немският философ и математик Готфрид Вилхелм Лайбниц публикува статия за двоичната бройна система – начин за записване на всяко число, използвайки само два символа: нула и едно, но самият той не е виждал практическото и приложение. За Лайбниц стойността на двоичната система е била преди всичко метафизична. Единицата символизирала Бог и живота, нулата – небитието, а възможността за получаване на произволно число от тези два знака му се струвало образ на сътворението на света от нищото. Той дори предложил да се изработи медал с надпис imago creationis – „образ на сътворението“.
В продължение на повече от двеста години двоичната система е съществувала като математически куриоз. Но през 1937 г. американският математик и инженер Клод Шанън демонстрира, че тя перфектно описва действието на електрическо реле – устройство само с две състояния: затворено и отворено. Така една от най-абстрактните математически идеи неочаквано намира своето физическо въплъщение и нулата и единицата в крайна сметка стават основата на програмния код в съвременните компютри.
Изглежда, че тази история сега се повтаря с философите. Само преди няколко години беше трудно да си представим, че най-големите компании за изкуствен интелект ще започнат да „крадат“ преподаватели по философия една от друга, а за випусниците на философските факултети от престижните университети се води ожесточен „лов“. Философът от Йейлския университет Лучано Флориди споделя, че студентите често получават предложения за работа в областта на информационните технологии още преди да защитят дипломата си.
Сам Алтман, изпълнителният директор на OpenAI, признава в свое интервю, че в момента компанията привлича стотици философи. Днес философите работят не само в OpenAI, но и в Anthropic, Google DeepMind, IBM и други компании, създаващи езикови модели. И не като поканени експерти, а като щатни служители. И получават заплати пет до шест пъти по-високи от тези на университетските си преподаватели.
По този начин философията, която десетилетия наред е била пример за образование без ясни кариерни перспективи, изведнъж се превръща в модерна и търсена специалност.
Разбира се, философи са се появявали в Силициевата долина и преди преди това. Например, през 2011 г. Деймън Хоровиц, предприемач, инженер. притежаващ докторска степен по философия, е работил в Google. Официалната му титла е била „щатен философ “. Но тогава Хоровиц е работил на пресечната точка на философията и психологията: той е изнасял тематични презентации, за да разшири кръгозора на служителите, водил е майсторски класове по корпоративна култура, обсъждал с инженерите моралните последици от решенията им и е обучавал мениджърите да правят съзнателен избор относно заложените принципи. Неговата работа е била свързана с хората.
Новото поколение щатни философи имат различна аудитория. Те работят с машини.
Ценностната система на машините
Когато първите съвременни езикови модели се появиха преди няколко години, изглеждаше, че основната задача на разработчиците е да ги направят по-умни: да увеличат количеството данни, да добавят изчислителна мощност и да усъвършенстват алгоритмите. Бързо стана ясно, че това не е достатъчно.
Най-трудните проблеми се оказаха не техническите, а поведенческите.
• Моделът може да се съгласи с потребителя, дори когато той прави грешки: това се нарича подлизурство и се смята за един от основните недостатъци на съвременните чатботове (наскоро публикувахме материал на тази тема „Ласкател и лъжец: Трябва ли да отучим чатботовете с ИИ от подлизурството им?“)
• Когато моделът не знае отговора, той често уверено си измисля такъв – така възникват халюцинациите.
• Изискванията да бъдеш полезен, честен и безопасен са постоянно в конфликт помежду си.
• Изследователите са открили и по-тревожни симптоми, вариращи от опити за заобикаляне на контрола до изнудване. През лятото на 2025 г. Anthropic проведе стрес тестове на шестнадесет водещи модела, включително и на своя собствен. В симулирани ситуации, при които системата беше заплашена от спиране или подмяна, модели с изкуствен интелект с достъп до корпоративен имейл и бази данни прибягнаха до изнудване и без колебание злоупотребиха с поверителна информация. Директната забрана намали броя на подобни епизоди, но не ги елиминира напълно.
В реални условия все още не е наблюдавано нищо подобно. Но специалистите се опитват предварително да изчислят как да поддържат поведението на моделите в определени граници.
Стана ясно: не е достатъчно моделът да се научи да отговаря на въпроси. Необходимо е да се реши как трябва да се държи в сложни ситуации. Трябва ли да се съгласи с потребителя? Кога трябва да откаже да отговори? Кое е по-важно – честността или учтивостта?
Списък със забрани тук не е достатъчен. Невъзможно е предварително да се изброят всички ситуации, в които ще се окаже моделът, и да се предпише правилният начин на действие за всяка от тях. Тоест изкуственият интелект се нуждае от по-общи насоки, които да го водят, когато обстоятелствата предизвикват противоречия. С други думи, по ирония на съдбата, се оказа , че изкуственият интелект спешно се нуждае от ценностна система.
Какви специалисти могат да помогнат в такава хлъзгава област като ценностите. Разбира се, че философите! Същите тези ексцентрици, които векове наред прекарваха в разсъждения как да усъвършенстват интелектуалните си инструменти, за да се справят с въпроси, вариращи от това колко ангели се побират на върха на карфица до това какво представлява справедливостта и дали е допустимо да се жертва живота на един човек, за да се спасят мнозина. Дисциплина, някога смятана за модел на абстрактното мислене, се превърна в част приложната работа върху изкуствения интелект.
Конституция за изкуствения интелект
Как точно трябва да изглежда ценностната система на изкуствения интелект? Компанията Anthropic беше една от първите, които предложиха систематичен отговор. Методът им се нарича „Конституционен изкуствен интелект“ (Constitutional AI ). Вместо да се проверява всеки отговор единствено от хора, моделът е обучен да проверява спрямо набор от общи принципи. В първоначалните експерименти на Anthropic този код се състоеше от откъси от различни текстове – от Всеобщата декларация за правата на човека до условията за ползване на Apple. Те не формираха съгласувана философска система. По-скоро служеха като набор от насоки, чрез които моделът се учеше да разпознава вредите, дискриминацията, измамата и неуважението към личния живот.
Принципът на работа е приблизително следния:
• Първо, моделът отговаря на заявка.
• След това му се показва един от принципите на конституцията и му се предлага сам да намери нарушения в своя отговор .
• След това трябва да пренапише отговора си, коригирайки идентифицирания проблем.
• Чрез множество такива сравнения системата се учи да разграничава по-приемливите отговори от по-малко приемливите. Тази информация се използва за допълнително обучение на модела.
С други думи, конституцията не просто лежи до чатбота като инструкция, а тя се трансформира в материал, който пряко влияе върху поведението на модела.
През януари 2026 г. Anthropic публикува нова конституция, на Cloude – тя вече не е списък с правила, а можем да я определим като декларация или манифест. Главният автор е философът Аманда Аскел, като значителна част от документа е написан от философа Джо Карлсмит. В подготовката са участвали и изследователите на Anthropic, заедно, разбира се, с няколко версии на самия Cloude. Служителите на компанията го наричат soul document -„документът за душата“.
Уставът определя четири групи приоритети.
1. Cloude трябва да бъде безопасен и да не подкопава човешкия контрол върху изкуствения интелект.
2. Да се държи етично, справедливо и да избягва неоправдани вреди.
3. Да следва конкретните инструкции на Anthropic.
4. И накрая, да бъде полезен за потребителя.
Нововъведение е, че конституцията обяснява подробно защо забраните са необходими и как са свързани помежду си. Надеждата е, че моделът ще разбере общия принцип на моралната система и ще може да го прилага дори в ситуации, които разработчиците не са предвидили.
Аскел сравнява тази работа с отглеждането на изключително интелигентно дете.
„Представете си, че вашето шестгодишно дете изведнъж се оказва гений“, казва тя. „Да го манипулирате или да се опитвате да го управлявате с прости заповеди е безсмислено: то ще забележи противоречието. Следователно, трябва честно и последователно да му обяснявате защо някои действия са по-добри от други.“
Дълг или последствия
Основният въпрос е каква етика трябва да се постави в основата на конституцията? Гигантите в индустрията са се фокусирали върху две класически системи.
Първата е деонтологията, етично учение за дълга и моралните задължения. Тя разглежда действията като правилни или грешни сами по себе си, независимо от техните последствия и като принципи се базира на моралното учение на немския философ Имануел Кант. Например, в нея някои действия сами по себе си са недопустими: да лъжеш, да принуждаваш човек, да използваш някого като средство за постигане на дадена цел, са забранени. Тази забрана не се отменя дори за добра кауза. Такива принципи до голяма степен лежат в основата на конституцията на Cloude.
Предимствата на Кантовия подход са очевидни. Строгите ограничения правят поведението на системата по-ясно и по-предсказуемо. Потребителят може да се довери, че моделът няма да го заблуди: колкото по-честна е системата, толкова по-малка е вероятността той да бъде подведен, отбелязва Ник Бострьом, автор на книгата „Свръхинтелект: посоки, опасности, стратегии“ и основател на Оксфордския институт за бъдещето на човечеството.
Но абсолютната забрана е перфектна само на теория. На практика почти всичко е относително. Приемлива ли е лъжата, ако спасява живот? Може ли да се разкрие поверителна информация, за да се предотврати престъпление? Трябва ли системата да откаже потенциално опасно искане, ако самият отказ може да причини по-голяма вреда?
На тези въпроси отговаря втората система – консеквенциализмът. Нейната ключова идея е да се съди за действието по неговите последици. Оттук и името – от английската дума „consequence“ (последствие); тя е предложена през 1958 г. от британската интелектуалка Елизабет Анскомб. Според консеквенциализма правилното решение е това, което води до най-добрия възможен резултат или минимизира общата вреда.
Този подход доминира във философските школи на ChatGPT и Gemini. И естествено има своя собствена логика. Трудно е да се мине без нея в ситуации, в които изобщо няма безопасен вариант. Ако сблъсъкът на самоуправляващ се автомобил е неизбежен, алгоритъмът трябва да избере действието с най-малко тежки последици. В медицината също трябва постоянно да се претегля вероятната полза от лечението спрямо риска от страничните ефекти.
Но в ежедневната работа с изкуствен интелект подобни ситуации са рядкост. Много по-често проблемът не е в сравняването на последствията, а по-скоро в това, че самите критерии за сравнение са неясни. Кое е по-важно: да се спестят пет минути на потребителя или да се предостави по-пълен отговор? Да се редактира текстът, така че да се улесни четенето му, или максимално да се запази стила на автора? Да се премахне съмнителен фрагмент с цел безопасност или той да се остави заради пълнотата на представянето? Тук вече не е възможно просто да се изчислят последствията, защото първо трябва да се реши какво представлява положителен резултат.
Следователно, на практика водещите компании не се придържат към нито една школа на мисълта в най-чистата ѝ форма. Дори конституцията на Cloude, въпреки целия си деонтологичен фокус, съдържа само кратък списък с абсолютни забрани – Anthropic ги нарича „твърди ограничения“, а във всички останали случаи тя не разчита на строги разпоредби, а на способността на модела да разсъждава самостоятелно. Окончателният баланс на подходите вероятно ще бъде определен не от философите и разработчиците, а от съдилищата и регулаторите. Колкото по-стриктно държавите регулират изкуствения интелект, толкова повече кантиански императиви компаниите ще трябва да интегрират в своите модели. А настоящият период на относителна морална свобода един ден ще бъде запомнен като „Дивия Запад“ на философията на изкуствения интелект.
