Зброя на базі ШІ потребує даних для навчання, Україна має що запропонувати

Український уряд надав оборонним компаніям у країні та за кордоном доступ до величезного архіву — п’яти мільйонів відеозаписів з поля бою.

Ліс, знятий з дрона, виглядав як безмежний, одноманітний ландшафт із чорних стовбурів дерев, тіней та снігових плям.

Для людського ока він здавався безлюдним. Але для системи штучного інтелекту, що шукає людей, це було не так. Система обвела червоним прямокутником крихітну людську фігуру — ймовірно, солдата, що причаївся серед дерев.

За цим досягненням стоять величезні обсяги даних. Так само, як ChatGPT та інші чат-боти на базі штучного інтелекту повинні вивчати, як пишуть люди, військові системи штучного інтелекту повинні вивчати, як люди воюють. В Україні це відбувається завдяки величезному масиву відеозаписів з поля бою, аудіо- та текстових даних, зібраних протягом майже п’яти років.

Цю військову базу даних використовують близько 30 українських оборонних компаній для розробки зброї на основі штучного інтелекту. Зараз Україна відкриває доступ до цього сховища, яке вона називає Avenger Labs, для компаній із країн-союзників, сподіваючись поглибити партнерство у сфері безпеки.

Україна надає дані безкоштовно, але компанії повинні надавати українським військовим ліцензії на будь-яке програмне забезпечення, яке вони розробляють. Згідно з першою угодою, що буде укладена, доступ отримають 12 британських оборонних компаній. Україна веде переговори з іншими країнами.

Хоча західних компаній, що розробляють автономну зброю, не бракує, існує дефіцит даних, необхідних для її навчання. Україна може запропонувати їх більше, ніж будь-який інший потенційний партнер.

Україна ділиться даними навіть попри те, що на міжнародному рівні досі не вирішено, як Женевські конвенції та інші норми воєнного права застосовуються до зброї на базі штучного інтелекту. Київ, який зазнає труднощів із набором достатньої кількості солдатів для утримання лінії фронту та вичерпує запаси традиційної зенітної зброї для захисту своїх міст, прагне прискорити розробку такої зброї для своєї оборони.

Росія також збирає бойові дані для використання в системах штучного інтелекту. Незрозуміло, як Москва поводиться з цією інформацією і чи ділиться нею зі своїми союзниками, такими як Іран, Китай та Північна Корея.

Більшість систем безпілотників зі штучним інтелектом, що використовуються зараз, потребують підтвердження цілі пілотом-людиною перед нанесенням удару. Однак і Росія, і Україна застосовували невелику кількість повністю автономних вибухових дронів, зокрема одну російську модель, яка в липні вбила трьох людей у місті на півдні України.

Колишній міністр оборони України Михайло Федоров, який керував розробкою платформи Avenger Labs, створив інвестиційний фонд з метою впровадження повністю автономної зброї на базі штучного інтелекту вже наступного року. Головним інвестором є Алекс Карп, генеральний директор компанії з аналізу даних Palantir.

Нещодавно Міністерство оборони України продемонструвало, як в Україні створюють зброю на базі штучного інтелекту.

Під час навчання дрона-вбивці першим кроком є визначення того, кого він буде вбивати. Необхідно вибрати набір даних — тисячі або десятки тисяч зображень того типу цілей, на які має полювати ця зброя.

Avenger Labs має у своєму розпорядженні понад п’ять мільйонів відеозаписів спостереження та ударів дронів. Багато з них — це необроблені кадри, на яких маленькі дзижчачі дрони переслідують російських солдатів і підривають їх. Але за допомогою панелі меню на платформі можна викликати тисячі відеозаписів з поля бою з анотаціями, що відповідають широкому спектру цілей. Серед них — танки взимку; вантажівки вночі; а також російські дрони, що вибухають, зняті за допомогою тепловізійних камер.

Зашифрована платформа розміщена на хмарному сервісі за межами України. Оборонні компанії не переглядають відео безпосередньо. Вони обробляють дані в так званій «пісочниці», тобто ізольованій комп’ютерній системі. Згодом, у міру надходження бойових відеозаписів, вони навчаються розпізнавати військові цілі.

Як тільки модель штучного інтелекту досягає достатнього рівня майстерності в «пісочниці» (що оцінюється за кількістю помилкових спрацьовувань та пропусків), компанія може завантажити її в комп’ютер наведення повітряного дрона, наземного робота або морського дрона.

Таким чином, пункт меню на платформі Avenger Labs — наприклад, «танки» — стає пунктом меню в системі зброї на базі штучного інтелекту. Солдат може натиснути на цей пункт меню, а потім запустити дрон, який самостійно почне пошук цілі.

Керівник однієї з компаній, яка використовувала цю систему для створення моделі штучного інтелекту, що зараз застосовується на полі бою, зазначив, що, за даними тренувань, рівень помилкових спрацьовувань становить менше 5 відсотків. Керівник висловився на умовах анонімності через угоду про нерозголошення інформації з Avenger Labs. Якими б не були сумніви щодо зброї на базі штучного інтелекту, призначеної для вбивства, зазначив керівник, її так чи інакше розроблять.

Українська військова база даних має обмеження. Незрозуміло, наскільки ці зображення є релевантними для конфліктів за межами України, зазначила Катерина Бондар, старший науковий співробітник Центру штучного інтелекту імені Вадхвані при Центрі стратегічних та міжнародних досліджень у Вашингтоні.

«Якщо ви навчаєте свої комп’ютери розпізнавати російські об’єкти, що ви будете з цим робити» поза межами України, — запитала вона. У разі війни на Близькому Сході зброя на базі штучного інтелекту, можливо, повинна буде розпізнавати, наприклад, іранські ракетні установки в пустельному ландшафті.

Також виникають питання щодо потенційного незаконного використання даних. Ліцензійна угода не містить положення про права людини. Україна надає доступ на підставі угод між урядами. За словами українських чиновників, ці уряди несуть відповідальність за забезпечення дотримання їхніми збройними силами Женевських конвенцій та інших договорів.

У будь-якому разі Україна відкриває доступ до своїх військових даних у правовому вакуумі. Минулого місяця на переговорах ООН у Женеві російські та американські дипломати виступили проти вимоги щодо «значущого людського контролю» над летальними автономними системами. Ці переговори відновляться у понеділок для розгляду проекту договору.

Програмні моделі, створені штучним інтелектом, є для людей «чорною скринькою», оскільки їхні внутрішні механізми міркувань є здебільшого непрозорими. Це є проблемою, зазначила Анна Баччареллі, аналітикиня з питань штучного інтелекту та конфліктів у Human Rights Watch, оскільки «чорна скринька затуманює відповідальність» у випадку зброї, що самостійно вибирає цілі. «Важко точно визначити момент, коли щось йде не так», — сказала вона.

Олександра Матвіючук, лауреатка Нобелівської премії миру та директорка Центру громадянських свобод у Києві, зазначила, що Україна та інші країни, які ратифікували Римський статут — угоду про створення Міжнародного кримінального суду, — зобов’язані видавати для судового розгляду військових офіцерів, відповідальних за військові злочини, незалежно від того, яке озброєння було використано.

За словами пані Матвіючук, Україна повинна бути обережною у обміні даними з країнами, які не визнають цей принцип міжнародного права, такими як Сполучені Штати.

Джерело: nytimes.com