Після смерті 16-річного школяра в Каліфорнії проти компанії Open AI були висунуті серйозні звинувачення, які тепер мають наслідки.
Батьки Адама Рейна звинувачують компанію та її керівника Сема Альтмана в тому, що їхнього сина довів до самогубства чат-бот Chat-GPT. У позові Метт і Марія Рейн звинувачують Open AI у недбалості та “ненавмисному вбивстві”. Вони стверджують, що їхній син місяцями говорив із системою про свої суїцидальні думки і отримував відповіді, які посилювали його саморуйнівні ідеї.
Сім’я вбачає в цьому прямий зв’язок зі смертю Адама у квітні.
Недоступ до журналів розмов неповнолітніх
На цьому тлі Open AI оголосила про запровадження батьківського контролю.
У майбутньому батьки і молоді люди зможуть пов’язувати свої акаунти, визначати, чи зберігаються попередні розмови, і обмежувати доступ до конфіденційного контенту. Також можна буде встановити тихий час, деактивувати голосові функції та заблокувати генерацію зображень. Однак батьки не матимуть доступу до журналів дзвінків своїх дітей.
Open AI також хоче в майбутньому повідомляти батьків, якщо система розпізнає “ознаки гострого стресу” у молодих людей. У таких випадках втручатимуться спеціально навчені співробітники. Однак у компанії підкреслили, що технологія не є безпомилковою і може бити на сполох і без реальної небезпеки.
Хвала функціям безпеки, але…
“Ми тісно співпрацювали з експертами, зацікавленими сторонами та політиками і будемо продовжувати розвивати ці функції”, – заявили в Open AI.
Роббі Торні з некомерційної організації “Common Sense Media” говорив про “гарний початок”, але підкреслив, що чіткі сімейні правила, розмови про використання ШІ та активний інтерес до поведінки молоді в Інтернеті мають вирішальне значення.
Керівник Open AI Альтман вже оголосив, що в майбутньому неповнолітні користувачі будуть краще розпізнаватися.
У разі сумнівів система автоматично перемикатиметься в режим для осіб до 18 років – за необхідності перевіряючи документи, що посвідчують особу.
Однак дослідники попереджають, що вікові бар’єри поки що легко обійти.
Відкритий ШІ бореться з сексуальним насильством над дітьми
У понеділок, 29 вересня, Open AI також представив нові заходи щодо захисту неповнолітніх. У компанії підкреслили, що боротьба з сексуальною експлуатацією є головним пріоритетом. Знову і знову зловмисники намагаються втягнути молодих людей в незаконні контакти через цифрові канали або зіштовхнути їх з агресивним контентом.
Щоб запобігти таким випадкам, Open AI посилила правила використання: будь-яка сексуалізація дітей, поширення образливих зображень або націленість на неповнолітніх суворо заборонені.
Це досягається завдяки поєднанню технічного виявлення, послідовного дотримання законодавства та тісної співпраці з органами влади. Контент, пов’язаний із сексуальним насильством, негайно блокується і повідомляється в Національний центр допомоги зниклим та експлуатованим дітям у США. Облікові записи зловмисників блокуються назавжди, так само як і облікові записи розробників, якщо їхні додатки неодноразово використовувалися не за призначенням. Зображення насильства також видаляються з навчальних даних, щоб моделі не навчилися генерувати такий контент.
Крім того, Open AI співпрацює з організаціями із захисту дітей, галузевими партнерами та правоохоронними органами, щоб виявити нові моделі зловживань на ранній стадії. Сюди входять спроби спонукати моделей брати участь у сексуальних рольових іграх з неповнолітніми або завантажувати зображення, що демонструють ситуації насильства.
За допомогою хеш-співставлення – методу, який використовує цифрові відбитки пальців для розпізнавання відомих зображень насильства – та класифікаторів, такий контент автоматично розпізнається та блокується.
Джерело: www.tagesanzeiger.ch
