Хоча технологія ШІ, безсумнівно, відіграватиме дедалі більшу роль у сучасній війні, залишається невирішеною етична проблема. Чи повинні дрони майбутнього, оснащені штучним інтелектом, мати «ліцензію на вбивство»?
Це питання стає дедалі гострішим, оскільки уряди та оборонна промисловість визнають, що дронні системи відіграватимуть дедалі важливішу роль у майбутніх військових конфліктах.
З огляду на те, що дрони масово використовуються у війні в Україні, а ШІ застосовується для підтримки бомбардувальних операцій у конфлікті з Іраном, деякі спостерігачі очікують, що зброя повинна діяти з більшою оперативною автономією, а це означає, що їй знадобиться щось на зразок моральних засад.
Минулого року Мустафа Сулейман, виконавчий директор підрозділу ШІ Microsoft та співзасновник британської компанії DeepMind, висловився однозначно щодо питання прийняття машинами моральних рішень.
Він сказав: «Штучний інтелект не може бути людиною — або моральною істотою».
Девід Оманд, колишній керівник британської розвідувальної служби GCHQ, заявив газеті Guardian, що, на його думку, штучний інтелект може створити «моральну» конфігурацію для безпілотної зброї, тоді як міністр збройних сил Великої Британії Ел Карнс нещодавно заявив газеті Financial Times, що має бути можливість «виключити людину з циклу» прийняття рішень.
Це висвітлює етичну та технологічну проблему: чи можна запрограмувати моральність в автономну систему озброєння.
Зі Талат, науковець, що спеціалізується на машинному навчанні у школі інформатики Единбурзького університету, стверджує, що великі мовні моделі — технологія, яка лежить в основі сучасних генеративних систем ШІ, таких як чат-боти, — принципово не здатні до прийняття моральних рішень.
Системи ШІ навчаються на величезних обсягах даних, що дозволяє їм будувати ймовірнісну модель того, яке слово або речення є наступним найімовірнішим у послідовності.
За словами Талата, люди не приймають моральних та етичних рішень таким чином, навіть якщо модель засвоїла всі філософські трактати, відомі людству.
«Якщо у вас є машина, яка за своєю природою є ймовірнісною, вона схилятиметься до найбільш ймовірної відповіді в ситуації. Чи вважаємо ми, що мораль підпорядковується ймовірнісним поняттям?» — каже Талат, який нещодавно став співавтором статті, в якій стверджується, що етична оцінка є «відкритим, заснованим на дебатах, соціополітичним процесом», за яким ШІ не встигає.
Ендрю Рогойскі з Інституту штучного інтелекту, орієнтованого на людину, при Університеті Суррея каже, що системи ШІ стали набагато досконалішими з моменту появи ChatGPT у 2022 році — про що свідчить поява так званих моделей «міркування».
Проте чи можуть вони відтворити нюанси прийняття моральних рішень?
«Мораль є надзвичайно складною, суперечливою, сформованою культурою, і це те, що більшість людей ніколи повністю не вирішують, навіть для себе», — каже він.
«Можливо, справжнє питання полягає в тому, чи достатньо добре ми розуміємо мораль, щоб її кодифікувати.Доки ми цього не зробимо, не можна очікувати, що машини втілять те, що ми самі не можемо чітко сформулювати».
Це призводить до питання, чи можливо мати загальновизнаний моральний кодекс для автономної зброї.
За словами Джесіки Дорсі, доцента міжнародного права в Утрехтському університеті в Нідерландах, програмування моралі в дрони є проблематичним.
Серед її занепокоєнь — визначення, чиїм моральним принципам слідує дрон, що є складним процесом, враховуючи, що Організація Об’єднаних Націй все ще намагається досягти глобального консенсусу щодо регулювання автономної зброї.
Також існує питання, як запрограмувати систему штучного інтелекту, щоб вона могла розрізняти комбатантів та цивільних осіб.
Стаття 57 Женевських конвенцій – серії міжнародних договорів, що регулюють ведення війни – передбачає, що військові повинні робити «все можливе, щоб переконатися, що цілі, які підлягають атаці, не є ані цивільними особами, ані цивільними об’єктами… а є військовими цілями».
Якщо не дотримуватися закону, то в разі масового розгортання дронів на базі штучного інтелекту ви в кінцевому підсумку повторюватимете помилкові рішення у величезних масштабах, каже Дорсі.
«Війна сповнена безлічі змінних, і цілком очевидно, що щось піде не так. А коли це трапляється зі швидкістю, властивою штучному інтелекту, розплутати ситуацію важко», — каже вона.
Але деякі експерти стверджують, що надання дронам більшої автономії та запрограмування в них правил ведення бойових дій і моральних норм стане необхідністю, якщо інші держави продовжать розвивати та застосовувати подібні технології такими ж темпами.
«Щоб будь-яка армія могла ефективно конкурувати з іншими високотехнологічними арміями, їй знадобиться велика кількість систем, які повинні будуть самостійно приймати рішення», — каже Ніколас Райт, нейробіолог і автор книги «Warhead» про людський мозок і війну.
Дрони на базі штучного інтелекту — це технологія, що лише починає розвиватися, і, незважаючи на ажіотаж у технологічній галузі, прикладів їхнього застосування на полі бою поки що небагато.
Понад 100 стартапів у США та Європі зараз займаються розробкою дронів та програмних платформ для них.
Це як легкі дрони для польоту на низькій висоті, призначені для зйомки та спостереження, так і більш важкі апарати, спроектовані для перевезення озброєння.
Але компанії, які їх створюють – і уявляють собі війну майбутнього – мають різко суперечливі погляди на те, як може виглядати їхнє прийняття рішень у майбутніх війнах.
«Моральність — це прерогатива людей, тому системи озброєння з штучним інтелектом потрібно створювати таким чином, щоб вони доповнювали судження та прийняття рішень оператора, а не повністю їх замінювали», — каже Олаф Хічва, співзасновник американського стартапу з виробництва дронів Neros.
На думку Хічва, дрони не замінять людей, які приймають рішення, а покращать можливості їхніх пілотів.
«Багато людей дещо неправильно сприймають автономність. Вони не дивляться на це очима користувача. Вони кажуть: давайте створимо повністю автономні системи озброєння», — каже він.
«Але реальність війни полягає в тому, що це все ще значною мірою взаємодія людини з людиною».
За його словами, одним із застосувань штучного інтелекту у війні може бути зменшення когнітивного навантаження на людей, які мають керувати такими апаратами, як дрони FPV (від першої особи) — невеликі апарати, що активно використовуються у конфлікті в Україні та передають зображення з поля бою своїм пілотам через відеозв’язок.
За одним із сценаріїв дрон міг би самостійно керувати собою на «останній милі» місії.
«Один із прикладів автономності — це те, що зараз пілотам потрібне дуже ретельне навчання, щоб змусити дрон рухатися під правильним кутом. Автономність могла б полягати в тому, що користувач або людина задає загальний маршрут, а дрон слідує цим маршрутом».
Джон Грюн, виконавчий директор компанії Fortem Technologies, яка розробляє системи захисту від дронів, має іншу думку.
Він зазначає, що США вже використовують автономні системи оборони для перехоплення дронів та ракет, що наближаються, і що штучний інтелект застосовується «на всіх етапах» у багатьох з цих випадків — для виявлення цілей і, інколи, для запуску зброї по них.
«Коли ви щось виявляєте, вам потрібно це ідентифікувати. Зараз ця ідентифікація здебільшого відбувається автономно».
За його словами, ту саму технологію тепер можна використовувати для застосування зброї, зокрема для визначення моменту пострілу та наведення зброї на ціль.
Алекс Фінк, американський виконавчий директор компанії Swarmer — американо-українського стартапу, що розробляє програмне забезпечення для автономних дронів, — каже, що в майбутньому може скластися сценарій, за якого люди взагалі не обиратимуть окремі цілі, а замість цього визначатимуть «зону ураження», в якій будь-що в певній області в певний час буде законною ціллю для автономної системи.
«Людина підтверджує, що в цій зоні немає своїх, і я гарантую, що їх не буде протягом наступних 15 хвилин. Будь-який об’єкт у цій зоні попередньо схвалений на цей проміжок часу», — каже Фінк.
«Якщо людина здатна взяти на себе таку відповідальність, знаючи, що в цій зоні не буде своїх, не буде випадкових свідків, тоді така місія можлива».
Але якщо технологія є, то морального та правового консенсусу немає.
Джерело: www.theguardian.com/world/2026/jun/03/can-autonomous-ai-powered-killer-drones-take-morality-onboard
Ми збираємо новини з Reuters, BBC, Bloomberg та інших світових ЗМІ.
Коротко, факти, без фейків та зайвого галасу.
👉 Підписуйтесь у Telegram
