Розробник ШІ попереджає: «Ми можемо незабаром втратити контроль»

Конкурент OpenAI, компанія Anthropic, порушує тему паузи у розробці потужної штучної інтелекту.

«Ми вважаємо, що для світу було б добре мати можливість уповільнити або призупинити розробку особливо просунутих моделей», — йдеться у блозі розробника ШІ.

Метою було б за цей час адаптувати суспільні структури, а також створити ШІ в інтересах суспільства та людей. Anthropic визнав, що для такого кроку необхідна згода великих розробників штучного інтелекту. Наразі в галузі не спостерігається готовності до цього.

Компанії, навпаки, перемагають одна одну планами інвестувати сотні мільярдів доларів в інфраструктуру ШІ, таку як гігантські обчислювальні центри.

Не одностороннє призупинення

Керівник Anthropic Даріо Амодей також підкреслив, зокрема, на Всесвітньому економічному форумі в Давосі в січні, що гонка з Китаєм у сфері ШІ дуже ускладнює уповільнення розвитку, оскільки навряд чи можна досягти угоди, яку можна було б домогтися виконання.

Anthropic відкидає односторонні паузи: Це лише змінило б те, хто лідирує.

Як конкретний захід, дослідницький інститут компанії з штучного інтелекту тепер разом з іншими хоче розробити систему контролю, яка має надати розробникам впевненість, що всі учасники дотримуються такого мораторію і ніхто таємно не отримує переваги.

Технологічний мільярдер Ілон Маск також кілька років тому висловився за шестимісячну паузу в розробці ШІ, щоб запобігти ризикам.

Пізніше стало відомо, що паралельно він просував створення власної компанії з ШІ.

ШІ, що саморозвивається

За словами Anthropic, поштовхом до нинішньої ініціативи став швидкий прогрес моделей ШІ, особливо в плані здатності самоудосконалюватися та розвиватися.

Якщо вони будуть здатні на це, зросте ризик того, що люди втратять контроль над штучним інтелектом. Anthropic попередила, що цей рубіж може бути досягнутий швидше, ніж багато інституцій будуть до цього готові.

Компанія, яка розробляє програмне забезпечення для штучного інтелекту Claude, часто виступає в ролі попередника і, серед іншого, вимагає більш суворого регулювання галузі для запобігання ризикам.

Останнім часом Anthropic викликала ажіотаж програмним забезпеченням Claude Mythos Preview, яке виявило в різних програмах уразливості, що частково залишалися невиявленими протягом десятиліть.

Джерело: kurier.at/wirtschaft/anthropic-ki-pause-claude-entwicklung-risiko/403166131