Штучний інтелект – це “прийдешня хвиля”, яка посилить пропаганду терористів і допоможе їм підготуватися до атак, попередив у вівторок радник британського уряду з питань тероризму.
У своєму останньому щорічному звіті Джонатан Холл, незалежний урядовий експерт з антитерористичного законодавства, попередив про “страхітливу” загрозу від “передових технологій” після року, витраченого на вивчення цього питання.
Холл попередив, що генеративний ШІ, який може створювати новий контент, такий як текст, зображення, аудіо і відео, на основі того, що він дізнався з наявних у нього даних, “буде використовуватися терористами”, і сказав, що Британія історично занадто повільно реагує на загрози, які створює інтернет.
У звіті говориться, що більшість технологічних компаній мають “мало підстав пояснювати внутрішню роботу своїх моделей і зусилля, які вони докладають до добробуту людей, змагаючись за частку ринку”.
І він попереджає, що вже існує індустрія “джейлбрейкінгу” етичних бар’єрів, які технологічні компанії встановили, щоб запобігти створенню чат-ботами небезпечного контенту.
За словами Холла, чат-боти можуть створити “замкнутий цикл терористичної радикалізації” для “самотніх і нещасних індивідів”, яких легко втягнути в реальний тероризм, і навіть можуть бути використані для перевірки потенційних рекрутів терористів перед тим, як передати їх “нагору для радикалізації між людьми”.
У звіті Холла зазначається, що Британія була причетна до єдиного відомого йому прикладу планування атаки за допомогою чат-бота, коли Джасвант Сінгх Чайл спланував спробу вбивства нині покійної королеви з арбалета разом зі своєю “подружкою зі штучного інтелекту”.
Холл зазначив, що, хоча він не знає про жодного сучасного “терористичного чат-бота”, інтернет “виявив косяк вразливих людей, включаючи дітей, які можуть виявитися особливо вразливими до радикалізації чат-ботів в індивідуальному спілкуванні”.
За його словами, Gen AI “в принципі” здатний запропонувати методи обходу системи безпеки і надати “професійні навички використання або адаптації зброї або структури терористичних осередків”, що особливо приваблює “зловмисників-одинаків”.
Пропаганда, створена штучним інтелектом, застеріг Холл, може бути пристосована до “місцевих наративів, таких як боротьба Британії з бандами грумінгів”.
Ці інструменти можуть дозволити “арміям ботів” заполонити форуми і соціальні мережі, щоб “зробити тему динамічною і актуальною”.
Майбутні загрози також можуть бути пов’язані з генеративним ШІ, що ідентифікує і синтезує біологічну або хімічну зброю, а також пише код для кібератак.
Минулого року британський уряд оголосив про створення нової Лабораторії з досліджень безпеки ШІ, покликаної координувати запити НАТО на гонку озброєнь ШІ з ворожими і терористичними державами.
Джерело: www.politico.eu/article/ai-terrorism-uk-government-propaganda-jonathan-hall/
