У полі на околиці Києва засновники української компанії “Вирій”, яка займається розробкою безпілотників, нещодавно працювали над зброєю майбутнього.
Щоб продемонструвати це, 25-річний Олексій Бабенко, генеральний директор “Вирію”, сів на мотоцикл і поїхав ґрунтовою дорогою. Позаду нього їхав дрон, а його колега відстежував рухи за допомогою комп’ютера розміром з портфель.
Донедавна квадрокоптером керувала людина. Але тепер це не так. Натомість, після того, як дрон зафіксував свою ціль – пана Бабенка – він полетів сам, керований програмним забезпеченням, яке використовувало камеру машини, щоб відстежувати його.
Ревучий двигун мотоцикла не міг зрівнятися з безшумним дроном, який переслідував пана Бабенка. “Штовхай, штовхай більше. Крути педалі до медалі, чувак”, – кричали його колеги по рації, коли дрон наближався до нього. “Тобі кінець, кінець!”
Якби дрон був начинений вибухівкою, і якби його колеги не відключили автономне стеження, пан Бабенко був би мертвий.
“Вирій” – лише одна з багатьох українських компаній, що працюють над значним стрибком у озброєнні споживчих технологій, зумовленим війною з Росією. Тиск, що змушує перевершити ворога, а також величезні потоки інвестицій, пожертвувань і державних контрактів перетворили Україну на Силіконову долину для автономних дронів та інших видів озброєнь.
Компанії створюють технологію, яка робить людське судження про вибір цілі і ведення вогню все більш дотичним. Широка доступність готових пристроїв, простого в розробці програмного забезпечення, потужних алгоритмів автоматизації та спеціалізованих мікросхем штучного інтелекту підштовхнула смертельну інноваційну гонку на незвідану територію, підживлюючи потенційну нову еру роботів-вбивць.
Найсучасніші версії технології, яка дозволяє дронам та іншим машинам діяти автономно, стали можливими завдяки глибокому навчанню – формі штучного інтелекту, яка використовує великі обсяги даних для виявлення закономірностей і прийняття рішень. Глибинне навчання допомогло створити популярні великі мовні моделі, такі як GPT-4 від OpenAI, але воно також допомагає моделям інтерпретувати і реагувати в реальному часі на відео- та фотоматеріали. Це означає, що програмне забезпечення, яке колись допомагало дрону слідувати за сноубордистом, що спускається з гори, тепер може стати смертельно небезпечним інструментом.
У більш ніж десятках інтерв’ю з українськими підприємцями, інженерами та військовими з’явилася картина недалекого майбутнього, коли рої самокерованих дронів зможуть координувати атаки, а кулемети з комп’ютерним зором автоматично збиватимуть солдатів. Розробляються і більш дивовижні творіння, такі як безпілотний коптер, що ширяє і має кулемети.
Ця зброя грубіша, ніж витончені штучки з науково-фантастичних блокбастерів, таких як “Термінатор” і його рідкометалевий вбивця Т-1000, але вона є кроком до такого майбутнього. Хоча ця зброя не настільки досконала, як дорогі системи військового класу, вироблені США, Китаєм і Росією, що робить ці розробки значущими, так це їхня низька вартість – лише тисячі доларів або менше – і готовність до використання.
За винятком боєприпасів, багато з цих озброєнь побудовані з використанням коду, знайденого в Інтернеті, і компонентів, таких як аматорські комп’ютери, такі як Raspberry Pi, які можна купити в Best Buy і будівельних магазинах. Деякі американські чиновники заявили, що вони стурбовані тим, що незабаром ці можливості можуть бути використані для здійснення терористичних атак.
Для України ці технології можуть дати перевагу над Росією, яка також розробляє автономні гаджети-вбивці, або просто допомогти їй не відставати від неї. Ці системи підвищують ставки в міжнародній дискусії про етичні та правові наслідки застосування штучного інтелекту на полі бою. Правозахисні групи та представники ООН прагнуть обмежити використання автономної зброї, побоюючись, що вона може спровокувати нову глобальну гонку озброєнь, яка може вийти з-під контролю.
В Україні такі побоювання є вторинними по відношенню до боротьби з окупантом.
“Нам потрібна максимальна автоматизація”, – сказав Михайло Федоров, міністр цифрової трансформації України, який очолює зусилля країни з використання технологічних стартапів для розширення передових бойових можливостей. “Ці технології мають фундаментальне значення для нашої перемоги”.
Автономні безпілотники, такі як “Вирій”, вже використовувалися в боях для ураження російських цілей, за словами українських офіційних осіб і відео, підтвердженим The New York Times. Пан Федоров сказав, що уряд працює над фінансуванням компаній, що займаються розробкою безпілотників, щоб допомогти їм швидко наростити виробництво.
Основне питання полягає в тому, який рівень автоматизації є прийнятним. Наразі безпілотники потребують пілота, щоб зафіксувати ціль, тримаючи “людину в курсі” – фраза, на яку часто посилаються політики і фахівці з етики штучного інтелекту. Українські солдати висловлюють занепокоєння з приводу того, що несправні автономні дрони можуть завдати удару по їхніх власних силах. У майбутньому обмежень на таку зброю може не існувати.
Україна “гранично чітко продемонструвала логіку, чому автономна зброя має переваги”, – сказав Стюарт Рассел, вчений у галузі ШІ і професор Каліфорнійського університету в Берклі, який попереджав про небезпеку озброєного ШІ: “З’явиться зброя масового знищення, яка буде дешевою, масштабованою і легко доступною на ринках озброєнь в усьому світі”.
Силіконова долина безпілотників
У напівзруйнованій майстерні в багатоквартирному будинку на сході України 28-річний солдат 92-ї штурмової бригади Дев допомагає просувати інновації, які перетворюють дешеві дрони на зброю. Спочатку він прив’язав бомби до гоночних дронів, потім додав більші акумулятори, щоб допомогти їм літати далі, а нещодавно вмонтував систему нічного бачення, щоб машини могли полювати в темряві.
У травні він був одним з перших, хто використав автономні безпілотники, в тому числі й “Вирій”. За словами Дева, хоча деякі з них потребують вдосконалення, він вірить, що вони стануть наступним великим технологічним стрибком на передовій.
За його словами, автономні дрони “вже користуються великим попитом”. Ці апарати були особливо корисними в боротьбі з перешкодами, які можуть перервати зв’язок між безпілотником і пілотом. Коли безпілотник летить сам, пілот може просто зафіксувати ціль і дозволити апарату зробити все інше.
По всій Україні з’явилися імпровізовані заводи і лабораторії, які будують дистанційно керовані машини всіх розмірів, від літаків дальньої авіації і бойових катерів до дешевих дронів-камікадзе – скорочено F.P.V. (від англ. First Person View – вид від першої особи), тому що ними керує пілот в окулярах віртуальної реальності, які дають вигляд з борту дрона. Багато з них є попередниками машин, які з часом будуть діяти самостійно.
Зусилля з автоматизації польотів БПЛА розпочалися минулого року, але були сповільнені невдачами у створенні програмного забезпечення для управління польотами, за словами пана Федорова, який заявив, що ці проблеми були вирішені. Наступним кроком буде масштабування технології за рахунок збільшення державних витрат, сказав він, додавши, що близько 10 компаній вже виробляють автономні дрони.
“У нас вже є системи, які можна виробляти серійно, і вони зараз широко випробовуються на передовій, а це означає, що вони вже активно використовуються”, – сказав пан Федоров.
Деякі компанії, як “Вирій”, використовують базові алгоритми комп’ютерного зору, які аналізують та інтерпретують зображення і допомагають комп’ютеру приймати рішення. Інші компанії підходять до цього більш складно, використовуючи глибоке навчання для створення програмного забезпечення, яке може ідентифікувати та атакувати цілі. Багато компаній заявили, що беруть дані і відео з льотних симуляторів і польотів безпілотників на передовій.
Один з українських виробників безпілотників, компанія Saker, створила автономну систему наведення з процесами штучного інтелекту, спочатку призначену для сортування і класифікації фруктів. Взимку компанія почала відправляти свою технологію на передову, випробовуючи різні системи з пілотами дронів. Попит стрімко зріс.
До травня Saker масово виробляла одноплатні комп’ютери з програмним забезпеченням, які можна було легко приєднати до безпілотників F.P.V., щоб машини могли автоматично наводитися на ціль, розповів виконавчий директор компанії, який попросив називати його тільки на ім’я Віктор, побоюючись помсти з боку Росії.
За його словами, безпілотник врізається в ціль “і все”. “Він протистоїть вітру. Він стійкий до перешкод. Ви просто повинні точно визначити, що ви збираєтеся вразити”.
Зараз Сакер виготовляє 1000 плат на місяць і планує збільшити виробництво до 9000 плат на місяць до кінця літа. Кілька українських військових підрозділів вже вразили російські цілі на лінії фронту за допомогою технології Saker, згідно з даними компанії та відео, підтвердженими The Times.
В одному з відеороликів, поширених у соціальних мережах, безпілотник пролітає над полем, понівеченим обстрілами. Раптом у центрі видошукача пілота з’являється вікно, яке збільшує танк, вказуючи на блокування. Дрон атакує самостійно, влучаючи в бічну частину броні.
За останні тижні Saker пішов далі, успішно використовуючи розвідувальний безпілотник, який ідентифікував цілі за допомогою штучного інтелекту, а потім відправляв автономні дрони-камікадзе для знищення, сказав Віктор. В одному випадку система вразила ціль на відстані 25 миль.
“Коли ми дійдемо до того, що нам не вистачатиме людей, єдиним рішенням буде замінити їх роботами”, – сказав Ростислав, співзасновник Saker, який також попросив називати його тільки на ім’я.
Війна в мініатюрі
Спекотного дня минулого місяця на сході України, відомому як Донбас, 23-річний резервіст Юрій Клонцак навчав чотирьох солдатів користуватися новітньою футуристичною зброєю: гарматною туреллю з автономним наведенням на ціль, яка працює за допомогою контролера PlayStation і планшета.
Говорячи на фоні вибухів обстрілів, пан Клонцак пояснив, як гармата, названа Wolly через схожість з піксарівським роботом WALL-E, може автоматично наводитися на ціль на відстані до 1000 метрів і стрибати між запрограмованими позиціями, щоб швидко охопити велику територію. Компанія DevDroid, яка виробляє зброю, також розробляла систему автоматичного прицілювання для відстеження та ураження рухомих цілей.
“Коли я вперше побачив зброю, я був зачарований, – сказав пан Клонцак. “Я зрозумів, що це єдиний спосіб якщо не виграти цю війну, то принаймні утримати наші позиції”.
Ця гармата – одна з кількох, що з’явилися на передовій і використовують програмне забезпечення зі штучним інтелектом для автоматичного відстежування та стрільби по цілях. Подібно до ідентифікації об’єктів на камерах спостереження, програмне забезпечення на екрані оточує людей та інші потенційні цілі цифровою рамкою. Все, що залишається зробити стрільцю – це дистанційно натиснути на спусковий гачок за допомогою контролера для відеоігор.
Поки що виробники зброї кажуть, що не дозволяють кулемету стріляти без натискання кнопки людиною. Але вони також запевняють, що буде легко зробити такий, що стрілятиме.
Багато українських інновацій розробляються для того, щоб протистояти російському озброєнню, що прогресує. Українські солдати з кулеметами є головною мішенню для атак російських безпілотників. З робототехнічною зброєю жодна людина не загине, якщо в неї влучить кулемет. Нові алгоритми, які все ще розробляються, з часом можуть допомогти кулеметам збивати російські безпілотники з неба.
Такі технології, а також можливість швидко створювати і випробовувати їх на передовій, привертають увагу і інвестиції з-за кордону. Минулого року Ерік Шмідт, колишній виконавчий директор Google, та інші інвестори створили фірму під назвою D3 для інвестування в нові технології поля бою в Україні. Інші оборонні компанії, такі як Helsing, також об’єднуються з українськими фірмами.
За словами Евеліни Бучацької, керуючого партнера D3, українські компанії розвиваються швидше, ніж їхні закордонні конкуренти, і фірма запрошує компанії, в які вона інвестує за межами України, відвідати країну, щоб прискорити їхній розвиток.
“Тут просто інший набір стимулів”, – сказала вона.
Часто потреби на полі бою об’єднують інженерів і солдатів. Олександр Ябчанка, командир батальйону “Вовки Да Вінчі”, відомого своїми інноваціями в озброєнні, згадує, як необхідність захистити “дорогу життя” – маршрут постачання військ, що воюють з росіянами вздовж східної лінії фронту в Бахмуті – підштовхнула його до винахідництва. Уявивши собі рішення, він розмістив у Facebook відкритий запит на створення комп’ютеризованого кулемета з дистанційним керуванням.
За кілька місяців пан Ябчанка отримав робочий прототип від фірми під назвою Roboneers. Кулемет майже миттєво став у пригоді його підрозділу.
“Ми могли сидіти в окопі, пити каву, курити цигарки і стріляти по росіянах”, – каже він.
Пізніше внесок пана Ябчанки допоміг “Розбійникам” розробити новий вид зброї. Компанія встановила кулеметну турель на наземний безпілотник, щоб допомогти військам здійснювати штурми або швидко змінювати позиції. За словами виконавчого директора Roboneers Антона Скрипника, це застосування призвело до зростання потреби в автоматичному прицілюванні на основі штучного інтелекту.
Подібні партнерства сприяли іншим досягненням. У травні на полігоні безпілотників інша місцева компанія Swarmer провела відеодзвінок з військовою частиною, щоб ознайомити солдатів з оновленнями свого програмного забезпечення, яке дозволяє дронам здійснювати ройові атаки без пілота.
Програмне забезпечення компанії Swarmer, яку минулого року заснував колишній інженер Amazon Сергій Купрієнко, побудоване на моделі штучного інтелекту, яка була навчена на великій кількості даних про місії безпілотників на передовій. Він дозволяє одному техніку керувати до семи дронами під час бомбардувань та розвідувальних місій.
Нещодавно Swarmer додав можливості, які дозволяють керувати ударними дронами-камікадзе на відстані до 35 миль. Очікується, що програмне забезпечення, яке тестується з січня, дозволить скоротити кількість людей, необхідних для управління мініатюрними військово-повітряними силами, які домінують на лінії фронту.
Під час демонстрації інженер Swarmer за комп’ютером спостерігав за картою, в той час як шість автономних дронів гуділи над головою. Один за одним великі дрони-бомбардувальники пролітали над потенційною ціллю і скидали пляшки з водою замість бомб.
За словами пана Купрієнка, деякі пілоти дронів бояться, що їх повністю замінять технології.
“Вони кажуть: “О, він і без нас літає. У нас заберуть пульти і дадуть зброю в руки”, – сказав він, маючи на увазі переконання, що керувати безпілотником безпечніше, ніж сидіти в окопі на фронті.
“Але я кажу: ні, тепер ви зможете літати з п’ятьма чи десятьма безпілотниками одночасно”, – сказав він. “Програмне забезпечення допоможе їм краще воювати”.
Розквіт ботів-вбивць
У 2017 році пан Рассел, дослідник ШІ з Берклі, випустив онлайн-фільм “Забійні боти”, який попереджає про небезпеку автономної зброї. У фільмі показано, як блукаючі зграї недорогих озброєних дронів зі штучним інтелектом використовують технологію розпізнавання облич для полювання на цілі та їх знищення.
Те, що відбувається в Україні, наближає нас до цього похмурого майбутнього, сказав пан Рассел. За його словами, його вже переслідують українські відеозаписи, на яких солдатів переслідують озброєні безпілотники, пілотовані людьми. Часто буває момент, коли солдати припиняють спроби втекти або сховатися, бо розуміють, що не можуть втекти від безпілотника.
“Їм нікуди йти, тому вони просто чекають смерті”, – каже пан Рассел.
Він не самотній у своїх побоюваннях, що Україна є переломним моментом. У Відні члени групи експертів ООН також заявили, що вони стурбовані наслідками нових технологій, які розробляються в Україні.
Чиновники витратили більше десяти років на обговорення правил використання автономної зброї, але мало хто очікує, що будь-яка міжнародна угода встановить нові правила, особливо в той час, коли США, Китай, Ізраїль, Росія та інші країни змагаються в розробці ще більш досконалої зброї. В одній з американських програм, оголошеній у серпні, відомій як ініціатива Replicator, Пентагон заявив, що планує серійне виробництво тисяч автономних дронів.
“Геополітика робить це неможливим, – сказав Александр Кментт, головний австрійський переговірник з питань автономних озброєнь в ООН. – Ця зброя буде використовуватися, і вона буде використовуватися у військовому арсеналі практично всіх”.
Ніхто не очікує, що країни приймуть повну заборону такої зброї, сказав він, “але вона повинна регулюватися таким чином, щоб ми не зіткнулися з абсолютно кошмарним сценарієм”.
Групи, в тому числі Міжнародний комітет Червоного Хреста, наполягають на юридично обов’язкових правилах, які забороняють певні види автономної зброї, обмежують використання інших і вимагають певного рівня людського контролю над рішеннями про застосування сили.
Для багатьох в Україні ці дебати є академічними. У них більше зброї та людей, ніж у нас.
“Спочатку нам потрібно перемогти, – сказав пан Федоров, міністр цифрової трансформації. “Для цього ми зробимо все можливе, щоб максимально впровадити автоматизацію, щоб зберегти життя наших солдатів”.
nytimes.com/2024/07/02/technology/ukraine-war-ai-weapons.html
