Каліфорнія стає першим штатом, що регулює використання чат-ботів-компаньйонів зі штучним інтелектом

Губернатор Каліфорнії Гевін Ньюсом вже підписав знаковий законопроєкт, який регулює роботу чат-ботів-компаньйонів на базі штучного інтелекту , що робить Каліфорнію першим штатом у країні, який вимагає від операторів чат-ботів-компаньйонів зі штучним інтелектом впроваджувати протоколи безпеки для таких чат-ботів.

Закон SB 243 розроблений для захисту дітей та вразливих користувачів від деяких видів шкоди, пов’язаної з використанням чат-ботів-компаньйонів зі штучним інтелектом. Він притягує компанії — від великих лабораторій, таких як Meta та OpenAI, до більш спеціалізованих стартапів-компаньйонів, таких як Character AI та Replika — до юридичної відповідальності, якщо їхні чат-боти не відповідають стандартам закону.

Законопроєкт SB 243 був представлений у січні сенаторами штату Стівом Падільєю та Джошем Беккером і набрав обертів після  смерті підлітка Адама Рейна , який покінчив життя самогубством після довгої серії суїцидальних розмов з чат-ботом OpenAI ChatGPT. Законодавство також є реакцією на витік  внутрішніх документів  , які, як повідомляється, свідчили про те, що чат-ботам Meta дозволялося брати участь у «романтичних» та «чуттєвих» чатах з дітьми. Зовсім недавно сім'я з Колорадо подала позов проти стартапу рольових ігор Character AI після того, як їхня 13-річна дочка покінчила життя самогубством після серії проблемних та сексуалізованих розмов з чат-ботами компанії.

«Новітні технології, такі як чат-боти та соціальні мережі, можуть надихати, навчати та об’єднувати, але без реальних бар’єрів технології також можуть експлуатувати, вводити в оману та наражати на небезпеку наших дітей», – заявив Ньюсом. «Ми бачили справді жахливі та трагічні приклади того, як молодь постраждала від нерегульованих технологій, і ми не будемо стояти осторонь, поки компанії продовжують без необхідних обмежень та підзвітності. Ми можемо продовжувати бути лідерами у сфері штучного інтелекту та технологій, але ми повинні робити це відповідально – захищаючи наших дітей на кожному кроці. Безпека наших дітей не продається».

Закон SB 243 набуде чинності 1 січня 2026 року та вимагає від компаній впроваджувати певні функції, такі як перевірка віку та попередження щодо соціальних мереж та чат-ботів-компаньйонів. Закон також передбачає суворіші покарання для тих, хто отримує прибуток від незаконних діпфейків, включаючи до 250 000 доларів США за кожне правопорушення. Компанії також повинні розробити протоколи щодо боротьби з самогубствами та самоушкодженням, які будуть передані до Департаменту охорони здоров'я штату разом зі статистикою про те, як сервіс надавав користувачам сповіщення про запобігання кризовим ситуаціям.

Згідно з формулюванням законопроєкту, платформи також повинні чітко вказати, що будь-які взаємодії створюються штучно, і чат-боти не повинні видавати себе за медичних працівників. Компанії зобов’язані пропонувати неповнолітнім нагадування про перерви та забороняти їм переглядати зображення сексуального характеру, створені чат-ботом.

Деякі компанії вже почали впроваджувати певні запобіжні заходи, спрямовані на дітей. Наприклад, OpenAI нещодавно почала впроваджувати батьківський контроль , захист контенту та систему виявлення самоушкодження для дітей за допомогою ChatGPT. Replika, яка розроблена для дорослих старше 18 років, повідомила TechCrunch, що виділяє «значні ресурси» на безпеку за допомогою систем фільтрації контенту та захисних бар'єрів, які спрямовують користувачів до надійних кризових ресурсів, і прагне дотримуватися чинних правил.

Компанія Character AI заявила, що її чат-бот містить застереження про те, що всі чати створені та вигадані штучним інтелектом. Речник Character AI повідомив TechCrunch, що компанія «вітає співпрацю з регуляторами та законодавцями під час розробки правил та законодавства для цієї нової сфери та дотримуватиметься законів, включаючи SB 243». 

Сенатор Паділья заявив TechCrunch, що законопроєкт є «кроком у правильному напрямку» до встановлення захисних огорож для «неймовірно потужної технології».

«Ми повинні діяти швидко, щоб не втратити вікна можливостей, перш ніж вони зникнуть», – сказав Паділья. «Я сподіваюся, що інші штати побачать ризик. Я думаю, що багато хто це зрозуміє. Я думаю, що ця розмова відбувається по всій країні, і я сподіваюся, що люди вживуть заходів. Звичайно, федеральний уряд цього не зробив, і я думаю, що ми маємо тут обов’язок захищати найвразливіших людей серед нас».

Законопроєкт SB 243 – це другий значний нормативний акт щодо штучного інтелекту, прийнятий Каліфорнією за останні тижні. 29 вересня губернатор Ньюсом підписав законопроект SB 53 , який встановлює нові вимоги до прозорості для великих компаній, що займаються штучним інтелектом. Законопроект зобов’язує великі лабораторії штучного інтелекту, такі як OpenAI, Anthropic, Meta та Google DeepMind, бути прозорими щодо протоколів безпеки. Він також гарантує захист викривачів для співробітників цих компаній.

Інші штати, такі як Іллінойс, Невада та Юта, ухвалили закони, що обмежують або повністю забороняють використання чат-ботів зі штучним інтелектом як заміну ліцензованій психіатричній допомозі.