Комп’ютер народився на війні і війною. Colossus був побудований у 1944 році, щоб зламати нацистські коди. У 1950-х роках комп’ютери організовували протиповітряну оборону Америки. У наступні десятиліття машинний інтелект відігравав незначну роль у війні. Тепер же він має стати ключовим. Так само як цивільний світ є свідком швидкого прогресу в розвитку і поширенні штучного інтелекту (ШІ), так само і військовий світ повинен підготуватись до навали інновацій. Вони не лише трансформують характер війни, але й можуть виявитись дестабілізуючими.
Сьогоднішні швидкі зміни мають декілька причин. Одна з них – це горнило самої війни, особливо в Україні. Невеликі, недорогі мікросхеми регулярно направляють російські та українські безпілотники до своїх цілей, розширюючи технологію, яка колись була притаманна лише ракетам наддержав. Друга – це нещодавній експоненціальний розвиток штучного інтелекту, який уможливлює дивовижні досягнення у розпізнаванні об’єктів і вирішенні проблем вищого порядку. Третя – це суперництво між Америкою і Китаєм, в якому обидві країни розглядають ШІ як ключ до військової переваги.
Результати найбільш помітні в просуванні інтелектуальних машин для вбивства. Повітряні та морські безпілотники були життєво важливими для обох сторін в Україні для виявлення та атаки цілей. Роль штучного інтелекту полягає у вирішенні проблеми глушіння, оскільки він дозволяє безпілотникам наводитися на цілі, навіть якщо GPS-сигнали або зв’язок з пілотом перервано. Розрив зв’язку між пілотом і літаком незабаром дозволить арміям розгортати набагато більшу кількість недорогих боєприпасів. Зрештою, самонавідні рої будуть створені для того, щоб завалювати оборону.
Але те, що найбільш помітно у військовому ШІ, не є найважливішим. Як пояснюється в нашому брифінгу, ця технологія також революціонізує систему командування і контролю, яку військові використовують для організації війн.
На передовій дрони уособлюють лише останню і найдраматичнішу ланку в ланцюжку вбивств – серії кроків, що починаються з пошуку цілі і закінчуються атакою. Глибше значення штучного інтелекту полягає в тому, що він може зробити до того, як дрон завдасть удару. Оскільки він сортує і обробляє дані з надлюдською швидкістю, він може виокремити кожен танк з тисячі супутникових знімків або інтерпретувати світло, тепло, звук і радіохвилі, щоб відрізнити приманки від справжніх цілей.
Далеко від лінії фронту він може вирішувати набагато більші завдання, ніж ті, з якими стикається один дрон. Сьогодні це означає прості завдання, такі як визначення, яка зброя найкраще підходить для знищення загрози. З часом “системи підтримки прийняття рішень” зможуть швидко і на великій території – можливо, навіть на цілому полі бою – розібратись у складних питаннях війни.
Наслідки цього лише починають ставати зрозумілими. Системи штучного інтелекту в поєднанні з автономними роботами на суші, морі і в повітрі, ймовірно, будуть знаходити і знищувати цілі з безпрецедентною швидкістю і в величезних масштабах.
Швидкість такої війни змінить баланс між солдатом і програмним забезпеченням. Сьогодні армії тримають людину “в курсі подій”, схвалюючи кожне смертельне рішення. Оскільки час пошуку і ураження цілей стискається до хвилин і секунд, людина може просто “сидіти на зв’язку”, як частина людино-машинної команди. Люди спостерігатимуть за системою, не втручаючись у кожну дію.
Парадокс полягає в тому, що навіть якщо ШІ дасть чіткіше уявлення про поле бою, війна ризикує стати більш непрозорою для людей, які в ній беруть участь. У них буде менше часу, щоб зупинитися і подумати. Оскільки моделі виноситимуть все більш красномовні судження, їхні висновки буде все важче перевіряти, не надаючи ворогу смертельної переваги. Армії побоюватимуться, що якщо вони не дадуть своїм радникам зі штучного інтелекту довшого повідка, то будуть розгромлені супротивником, який це зробить. Швидші бої і менша кількість пауз ускладнять переговори про перемир’я або зупинення ескалації. Це може бути на руку захисникам, які можуть залягти на дно, поки нападники проривають укриття, просуваючись вперед. Або ж це може спокусити нападників завдати превентивного масованого удару, щоб вивести з ладу датчики і мережі, від яких залежатимуть армії зі штучним інтелектом.
Масштаби війни на основі ШІ означають, що масовість і промислова потужність, ймовірно, стануть ще більш важливими, ніж сьогодні. Ви можете подумати, що нові технології дозволять арміям стати більш компактними. Але якщо програмне забезпечення може вибирати десятки тисяч цілей, армії знадобляться десятки тисяч одиниць зброї для їх ураження. І якщо той, хто захищається, має перевагу, нападникам знадобиться більше зброї, щоб прорватися.
Це не єдина причина, чому війна зі штучним інтелектом вигідна великим країнам. Дрони можуть подешевшати, але цифрові системи, які об’єднують поле бою в єдине ціле, будуть страшенно дорогими. Створення армій, оснащених штучним інтелектом, потребуватиме величезних інвестицій у хмарні сервери, здатні обробляти секретні дані. Армії, військово-морські і військово-повітряні сили, які сьогодні існують у власних інформаційних сховищах, повинні будуть інтегруватися. Навчання моделей вимагатиме доступу до величезних масивів даних.
Якій великій країні штучний інтелект приносить найбільшу користь? Колись вважалося, що Китай має перевагу завдяки своєму пулу даних, контролю над приватною промисловістю та слабшим етичним обмеженням. Але зараз Америка, схоже, випереджає його в розробці передових моделей, які можуть сформувати наступне покоління військового ШІ. І ідеологія має значення: неясно, чи зможуть армії авторитарних держав, які цінують централізований контроль, скористатися перевагами технології, яка виводить інтелект і розуміння на найнижчі тактичні рівні.
Якщо, на жаль, перша війна з використанням ШІ все ж спалахне, міжнародне право, швидше за все, буде витіснене на узбіччя. Тим більше причин думати сьогодні про те, як обмежити руйнування. Наприклад, Китай повинен прислухатися до заклику Америки виключити контроль ШІ над ядерною зброєю. І як тільки почнеться війна, гарячі лінії між людьми стануть важливішими, ніж будь-коли. ШІ-системи, яким наказано максимізувати військову перевагу, повинні бути закодовані цінностями і обмеженнями, які люди-командири сприймають як належне. Серед них – неявна цінність людського життя (скільки цивільних осіб допустимо вбити, переслідуючи важливу ціль) і уникнення певних дестабілізуючих ударів, наприклад, по супутниках ядерного раннього попередження.
Невизначеності дуже великі. Єдине, що можна сказати напевно, це те, що зміни, керовані ШІ, наближаються. Армії, які передбачать і опанують технологічний прогрес раніше і ефективніше за інших, ймовірно, переможуть. Усі інші, швидше за все, стануть жертвами.
https://www.economist.com/leaders/2024/06/20/war-and-ai
