Штучний інтелект змінює військову мораль

Теорія справедливої війни формувалася протягом століть — і тепер має пристосуватися до нової ери технологій.

Цієї весни, під час Страсного тижня, священик відвідав український підрозділ безпілотників поблизу Запоріжжя. Він помолився разом із бійцями за їхній захист, а потім окропив свяченою водою ударний безпілотник «Гара», освятивши машину перед тим, як вона вилетіла проти російських позицій. Цей безпілотник все ще потребував оператора-людини, але багато з тих, що їх планують використовувати передові збройні сили світу, не потребують цього. У міру того, як зброя стає дедалі більш автономною, а штучний інтелект витісняє людське прийняття рішень, війни можуть ставати легшими для початку та складнішими для контролю.

Мало хто з лідерів піднімав ці питання так гостро, як це зробив Папа Лев XIV у своїй першій енцикліці «Magnifica Humanitas: Про захист людської особи в епоху штучного інтелекту». Трактат Папи про перспективи штучного інтелекту та його загрози для прав і гідності людини привернув увагу всього світу.

Однак ретельно продумане викладення в енцикліці етичних обмежень щодо використання автономної зброї отримало менше висвітлення. Те саме стосується й виклику, який цей документ кидає самій можливості «справедливої війни» у XXI столітті. «Більше ніж будь-коли, без упередження щодо права на самооборону в найсуворішому сенсі, — написав Папа, — важливо ще раз підтвердити, що теорія «справедливої війни», яку надто часто використовували для виправдання будь-якого виду війни, на сьогодні є застарілою».

Папа Лев має рацію в тому, що цією теорією зловживали, і він правий, наголошуючи на діалозі та дипломатії. Але навіть якщо відмовитися від теорії справедливої війни, держави не стануть пацифістами. Політики не стануть святими, а командири — етиками. Усі втратять спільний, зрозумілий стандарт, за яким протягом століть оцінювали та обмежували війни — стандарт, який, якщо його оновити, все ще може захистити від найгірших зловживань війни в епоху конфліктів, що розгортаються зі швидкістю машин.

Теорія справедливої війни потребує не відмови від неї, а переосмислення з огляду на сучасну війну. Це переосмислення має враховувати війну, яка дедалі більше відбувається опосередковано. Технології та конкуренція великих держав дозволяють тим, хто отримує вигоду від конфлікту, дистанціюватися від його витрат.

Скептицизм Папи щодо теорії справедливої війни підтверджує скептицизм його попередника, Папи Франциска. Але з вуст Лева це звучить ще сміливіше. Він — августиніанець, член ордену священиків, що веде своє походження від святого, який розмірковував над тим, як правителі можуть вести війну, не відмовляючись від християнського обов’язку прагнути миру. Твори святого Августина стали джерелом теорії справедливої війни — концептуальної основи, яку систематизував Тома Аквінський, а голландський правознавець Гуго Гротій допоміг секуляризувати.

Протягом століть лідери стикалися з цією дилемою: війна — це жахливо, але іноді вона необхідна; теорія справедливої війни визначає, коли і як. Рішення про вступ у війну має бути відповіддю на акт агресії. Воно має виходити з правильних намірів і бути ухвалене відповідною владою. Не менш важливо, що війна має бути крайнім засобом і мати розумну перспективу завершення справедливим миром. Під час бойових дій комбатанти повинні застосовувати силу, пропорційну цінності військової цілі. Вони повинні уникати прямих ударів по цивільному населенню та вживати додаткових заходів для зменшення ризику заподіяння шкоди цивільним особам, навіть якщо це означає прийняття на себе додаткових ризиків.

Ці критерії викладаються в усіх військових академіях США, закріплені в праві збройних конфліктів і щодня застосовуються підрозділами сучасних збройних сил, що визначають цілі. Те, що починалося як католицька традиція, перетворилося на найтриваліший інтелектуальний проект Заходу, спрямований на стримування насильства. Папа має рацію, коли зазначає, що правителі посилаються на цю теорію, щоб освятити будь-яку війну, яку вони бажають вести. Але, як зауважив Майкл Волцер, це лицемірство є «даниною, яку порок сплачує чесноті». Сплачуючи її, правителі наражаються на осуд саме за тими стандартами, на які вони посилаються.

Логіка, що лежить в основі теорії справедливої війни, також не є виключно західною; існують загальні риси війни, з якими доводиться стикатися всім культурам. У період «Воюючих держав» Менцій стверджував, що тиран, який знищує доброзичливість і справедливість, може втратити статус правителя. Моцзи засуджував наступальну війну, готуючи державу Сун до опору безпідставної облоги. Сунь Цзи вважав підкорення супротивника без бою найвищою формою військового мистецтва і неодноразово застерігав про ціну війни. Теорія справедливої війни не повністю збігається з китайською традицією, але спільні основи можуть виявитися цінними для стримування майбутніх конфліктів.

По обидва боки Тихого океану впровадження штучного інтелекту у військові можливості сприяє розвитку такого виду ведення війни, який створює додаткові проміжні ланки між особами, що приймають рішення, та самим вбивством. Вони можуть збільшити ймовірність застосування насильства, навіть попри те, що воно стає дедалі точнішим. Вони ставлять під загрозу підзвітність — рису, критично важливу для виживання будь-якого нормативного режиму. І якою б точністю не володіли машини, вони залишаються нездатними до милосердя та інших людських рис, які не лише роблять війну трохи гуманнішою, а й допомагають створити умови для кращого миру.

Отже, традиція справедливої війни потребує оновлення з огляду на нові форми опосередкованої війни. І найпереконливіший доказ того, що таку традицію можна створити, може міститися в самій енцикліці Папи. Навіть попри те, що Лео ставить під сумнів актуальність цієї теорії, критерії, які він окреслює для обмеження використання автономної зброї, використовують ту саму лексику та умови, що й ця традиція.

Щодо використання автономної зброї Папа вимагає ланцюга відповідальності, який має бути «ідентифікованим та перевіреним», — від тих, хто розробляє та навчає систему, до тих, хто її санкціонує та застосовує. Насправді Стратегія Пентагону щодо відповідального штучного інтелекту вимагає майже такого самого ланцюга відповідальності. Забезпечити його дотримання складніше. Коли машини виступають посередниками у діях, правові норми стикаються з труднощами у визначенні наміру, що призводить або до несправедливого стандарту, за яким люди несуть відповідальність у будь-якому разі, або до використання машини як алібі для тих, хто чинить неправильно.

Папа також наполягає на «моральних часових рамках» для прийняття рішень, застерігаючи, що «швидкість та ефективність ніколи не повинні бути головною рушійною силою для незворотних рішень, що приймаються в умовах війни». Рішення про застосування летальної сили, пише Папа, має залишатися під «ефективним, самосвідомим та відповідальним людським контролем», а системи мають бути побудовані так, щоб рішення можна було відстежити та реконструювати — щоб відповідальність не зводилася лише до «машини». Це найдавніша вимога традиції — щоб людина відповідала за вбивство, яка тепер переформульована як інженерна вимога. Проте той самий Пентагон, який вимагає відстежуваного ШІ, також цінує швидкість та ефективність — тиск, який може поглибити залежність від машини, звужуючи, а то й витісняючи, ці моральні часові рамки.

Папа, зважаючи на ці зміни, не відмовився від теорії справедливої війни. Своїми міркуваннями та етичними обмеженнями, які він накладає на використання нових військових можливостей, він показав, що ніхто не може цього зробити. Зіткнувшись із найновішою зброєю в історії, енцикліка не змогла знайти іншого морального словника, окрім власного, що випливає з традиції. Справа не в тому, що критерії справедливої війни застаріли, а в тому, що їхнє застосування до сучасної війни застаріло.

Сім років тому на цих сторінках ми обґрунтовували необхідність одного з таких оновлень, пояснюючи, як інша форма опосередкованого конфлікту — війна через посередників — створює ускладнення, на які теорія справедливої війни не дає достатньої відповіді. Значна частина цих ускладнень випливає з одного хибного припущення: якщо справа посередника є справедливою, то підтримка, яку надає йому благодійник, також є справедливою. Але щойно посередник отримує підтримку благодійника, він отримує більше ресурсів і більше підстав для ескалації конфлікту, а не для його врегулювання. Підтримка посередників також збільшує ризик розповсюдження зброї за межі конфлікту, для якого її надано — як це сталося з ракетами «Стінгер» з Афганістану, що згодом з’явилися в Боснії та Кашмірі. Нарешті, якщо держава надає посереднику сучасну зброю, не запровадивши заходів для запобігання її безрозбірливому застосуванню, то ця держава несе певну відповідальність за його злочини — це те, що вчені називають проблемою «брудних рук».

Ескалація, поширення та «брудні руки» — це ті самі ризики, які Лео виділяє у зв’язку з поширенням автономної зброї. Цикли прийняття рішень зі швидкістю машини посилюють ризик ескалації. Автономні системи працюють на програмному забезпеченні, яке може поширюватися швидше, ніж будь-яка ракета, що збільшує ризик поширення. Автоматичне визначення цілей створює прогалину у відповідальності, яка може приховувати, а часто й поглиблювати проблему «брудних рук». «Жоден алгоритм не може зробити війну морально прийнятною», — написав Папа. Війна через посередників та автономна зброя ставлять подібні моральні дилеми з різних точок зору. Проте традиція справедливої війни, після відповідного оновлення, дає нам засоби для оцінки та стримування обох явищ.

Ця традиція не потребує повної заміни. На початку цього літа Лео зібрав 178 кардиналів на надзвичайну консисторію, щоб обговорити оновлення вчення. Голова доктринального відомства Ватикану, кардинал Віктор Мануель Фернандес, стверджував, що теорія справедливої війни, замість того щоб запобігати війнам, зараз допомагає їх виправдовувати. Він висловив жаль з приводу політичної культури, яка сприймає прагнення до миру як утопію, надає першочергового значення дискредитації опонентів і цінує непослідовність як стратегію. Як повідомляється, консисторія розглядала як заміну більш вузький стандарт «пропорційної оборони», що дозволяє самооборону в найсуворішому сенсі. Однак запропонована альтернатива дає відповідь лише на питання, чи варто воювати, і лише в реактивному плані. Пропорційна оборона мало що дає військовому планувальнику, групі, що визначає цілі, або солдату на передовій.

Лео завершив консисторію, визнавши необхідність перегляду концепції законної оборони у світлі змін у сучасних конфліктах, зазначивши, що це осмислення «заслуговує на подальший розвиток із необхідною теологічною та пастирською ретельністю». Критерії щодо автономної зброї, викладені в його енцикліці, свідчать про те, що цей процес уже триває.

Але ця робота також має включати взаємодію з тими, хто покладається на ці критерії та втілює їх у життя: командирами, етиками, військовими юристами, розробниками правил ведення бойових дій. До них мають приєднатися інженери та системні аналітики, які проектують машини, що вже змінюють спосіб ведення війни.

Оновлена доктрина справедливої війни мала б вирішувати виклики опосередкованої війни шляхом відновлення зв’язку між вигодою та витратами, забезпечуючи їх належний розподіл. Вона також має краще пов’язувати дії з наслідками, щоб застосування принципів не заплутувалося застарілими концепціями відповідальності. Один із способів цього — заздалегідь інтегрувати етику, вбудовуючи механізми запобігання шкоді цивільному населенню ще до введення систем у дію, а не розбиратися з відповідальністю згодом, коли солдати, які довіряли цим системам, залишаються тими, на кого звалюється провина.

Первісна традиція виникла тому, що роздроблена Римська імперія шукала етичних настанов та обмежень щодо воєн, які вона вже вела. Священик в Україні, який благословляє дрон перед тим, як відправити його на ворога, — це дилема Августина в її новітній формі. Війни зараз інші й швидко змінюються. Потреба ретельно їх оцінювати та стримувати найгірші зловживання залишається.

Джерело: foreignpolicy.com