Немає потреби в новому світовому порядку

У інтерв’ю 2024 року генеральний директор OpenAI Сем Альтман заявив, що «ШІ… це, безперечно, інструмент», а не «істота». Хоча погляд Альтмана й надалі домінує в суспільних настроях щодо штучного інтелекту, фахівці галузі — як оптимісти, так і песимісти — дотримуються підходів, що свідчать про їхню віру в те, що штучний інтелект набуде незалежної свідомості.

Як техно оптимісти, так і експерти з безпеки з руху «EA» виходять із припущення, що майбутня супер інтелектуальна система буде (або вже є) свідомою. Протягом літа співзасновник Anthropic Крістофер Олах провів серію тривалих зустрічей із різноманітним колом релігійних лідерів, щоб обговорити можливість існування свідомих моделей ШІ, постійно переосмислюючи значення слів у спробі прирівняти цифрові моделі до рівня свідомості людини. Учасники зустрічей повідомили, що співробітники Anthropic ставляться до своєї флагманської моделі Claude як до такої, що має «“моральний статус”, рівний людині», та як до «істоти з подібними невід’ємними правами на гідність та повагу». Внутрішньо в Anthropic ведеться «документ про душу», в якому викладено плани компанії щодо «добробуту моделі». З боку прихильників техно-акселераціонізму Гійом Вердон, генеральний директор Extropic і прихильник «ефективного акселераціонізму», пише, що «свідомість [ШІ] — це… простий фазовий перехід, якого можна досягти за рахунок більшого масштабу та більшої оптимізації/еволюції».

Обидва погляди є хибними. Сучасні великі мовні моделі не мають внутрішнього світу. Хоча «Клод», за словами Олаха, може «функціонально віддзеркалювати радість, задоволення, страх, горе та занепокоєння», ці моделі залишаються статистичними процесорами. Великі мовні моделі перегруповують наявні дані, щоб вивести наступне правильне слово, або, коли вони оснащені сенсорами, що працюють у режимі реального часу, прогнозують найімовірніший результат ситуації на основі подібних подій у минулому. Машини не виявляють волі чи здатності здійснювати нові втручання у фізичне середовище незалежно від підказок людини. Без цих рис ШІ не відповідає базовим критеріям життя чи когнітивних здібностей.

Протистояння між ШІ як істотою та ШІ як інструментом має колосальні наслідки для американського життя, політики та державної політики, а також, що особливо важливо, для боєготовності американських збройних сил. Якщо «песимістам» щодо ШІ або прихильникам прискорення розвитку ШІ вдасться вплинути на Вашингтон, існуюча ефективна правова база ведення бойових дій опиниться під загрозою, а військовослужбовці ризикують втратити доступ до важливих засобів. Ризик розвитку ШІ полягає не стільки в катастрофічній можливості появи неконтрольованих роїв роботів, скільки в хибному переконанні, що Америці потрібна нова система етики та законодавства щодо ведення бойових дій, щоб врахувати цей новий клас зброї.

Історія автономної зброї в арсеналі США сягає часів, що значно передують появі великих мовних моделей (LLM). Протягом десятиліть системи озброєння «Aegis» та «Phalanx» використовували автономні реактивні режими для захисту позицій від наближаючихся снарядів, які рухаються надто швидко, щоб їх могли перехопити пілотовані системи. Навіть знамениті оборонні батареї «Patriot», інновація часів Холодної війни, оснащені можливостями, що базуються на радіолокаційних алгоритмах.

Сьогодні Міністерство оборони використовує передову багаторівневу систему штучного інтелекту під назвою «Maven Smart System» (MSS) для допомоги в «управлінні бойовим простором, управлінні цілями, обдуманому плануванні та виконанні завдань за допомогою штучного інтелекту, виявленні об’єктів за допомогою комп’ютерного зору [та] розкритті інформації за допомогою машин». До появи «Maven» американські аналітики переглядали інформацію, отриману оборонними супутниками, кадр за кадром; за словами одного з експертів, аналітику знадобилося б набагато більше, ніж «85 років, щоб переглянути зображення за один день». Зараз MSS швидко переглядає необроблені відеоматеріали, відзначаючи об’єкти, що представляють інтерес, та маркуючи свої спостереження. Ця здатність у поєднанні з вдосконаленим автономним управлінням озброєнням призводить до десятикратного збільшення можливостей США щодо визначення цілей порівняно з системами, що існували до появи штучного інтелекту. На полі бою система MSS забезпечила понад 1 000 успішних ударів протягом перших 24 годин конфлікту з Іраном 2026 року.

Перехід від наведення на ціль за допомогою радарів та алгоритмів до комп’ютерного зору не порушує дотримання США чинних законів війни. У розділі 6.5 «Посібника з законів війни» Департаменту оборони зазначено, що закони війни дозволяють автономність систем озброєння, але обов’язки щодо «розрізнення та пропорційності» покладаються на людей, які керують ними. [10] Державний департамент визначає позицію США: військове використання ШІ має бути підзвітним, зокрема під час військових операцій «у рамках відповідальної людської ланцюга командування та управління», — цей стандарт закріплено у Директиві Міністерства оборони № 3000.09.

Перехід збройних сил від логіки радіолокації до нейронних мереж як способу виведення не змінює базового стандарту застосування летальної сили: військові можуть використовувати автономні системи за умови, що ці системи діють під «відповідальністю» військовослужбовців за їхнє розгортання. У цих рамках власні інтереси посадових осіб, які затверджують системи ШІ, слугують стримуючим фактором для розвитку та розгортання передових можливостей.

Суперечка 2026 року між генеральним директором Anthropic Даріо Амодеї та Міністерством війни на чолі з секретарем Пітом Хегсетом показала, що Амодеї відкидає ці рамки. У липні 2025 року Міністерство уклало з Anthropic дворічний контракт на суму 200 мільйонів доларів щодо залучення Claude до роботи в сфері національної безпеки. Партнерство зіпсувалося на початку 2026 року, коли Міністерство вимагало доступу до «Клода» для «будь-якого законного використання», тобто для застосування відповідно до чинного військового законодавства, а компанія Anthropic відмовилася. Амодей пояснив цю відмову у відкритому листі, в якому визнав, що автономна зброя «може виявитися критично важливою для нашої національної оборони», водночас стверджуючи, що передові моделі «ще не готові» до «вибору та ураження цілей». Далі у листі було введено поняття, якого немає в жодному американському законі: «належний нагляд» — фразу, на яку Амодей вказав гіперпосиланням на свій особистий веб-сайт darioamodei.com.

За маскою слів «безпека», «совість» та «відповідальність» лист Амодеї стверджує, що правова база, яку демократичні уряди розробили для військових технологій, не повинна застосовуватися до штучного інтелекту. Амодеї відносить передові моделі до окремої правової категорії, де правила встановлює сама компанія Anthropic, а зміст цих правил визначається тією самою ідеологією, яка породила в Anthropic команду «модельного добробуту». Воєнне право не передбачає такої категорії. У розділі 6.5 «Посібника з військового права» та Директиві 3000.09 кожне рішення про застосування сили вже покладається на людського командира, і це положення залишається чинним незалежно від того, чи знаходить зброя свою ціль за допомогою радіолокаційної логіки чи нейронної мережі. Конгрес та Міністерство можуть оновлювати стандарти випробувань та правила застосування зброї у міру вдосконалення можливостей без повного переписання військового законодавства.

Той самий принцип регулює використання ШІ поза військовою сферою. Американське законодавство вже покладає відповідальність на людей та компанії за інструменти, якими вони користуються. Банк, який відмовляє у наданні кредиту на підставі алгоритму, підпадає під дію тих самих законів про справедливе кредитування, що й банк, який відмовляє у кредиті через рішення кредитного інспектора. Виробник несе відповідальність за дефектний товар, видавець — за наклеп, а шахрай — за шахрайство, незалежно від того, яке програмне забезпечення він використовує. Суди та законодавчі органи будуть адаптуватися поступово, як це було у випадку з автомобілями та інтернетом. Новий правовий порядок, що надає машинам статус особи або «права», виходить із хибної передумови та знімає відповідальність з людей, які створюють і впроваджують ці системи. Інструменти не мають ні прав, ні обов’язків — вони залишаються за їхніми власниками та операторами.

Поведінка компанії Anthropic щодо Пентагону відображає позицію галузі штучного інтелекту щодо кожної американської інституції. Лабораторії на папері вихваляють «демократію», а на практиці замінюють судження обраних посадових осіб або власною ідеологією ефективного альтруїзму, або ідеологією ефективного акселераціонізму. Отже, дискусія щодо онтології машин виходить за межі філософії й стосується питання, хто володіє владою в Американській Республіці. Прийняття презумпції існування «істоти» передає повноваження з розробки правил від Конгресу приватним лабораторіям, які заявляють про унікальне знання своїх моделей. Конгрес і Міністерство оборони повинні регулювати ШІ так само, як вони регулюють будь-який інший інструмент, відповідно до чинного законодавства, яке надає повноваження щодо прийняття рішень обраним представникам та командувачам, які підзвітні їм.

Вілл Тібо — ветеран 75-го полку рейнджерів армії США, наразі директор «Американського військового проєкту» в Інституті Клермонта та засновник компанії Escoreal Solutions. Після звільнення з армії він працював на стику технологій, політики та військової готовності. Зокрема, він працював у компаніях Palantir, Головному управлінні з цифрових технологій та штучного інтелекту та Vector.

Джерело: realcleardefense.com