Розробники ШІ домовляються про перші значні врегулювання справ про смерть підлітків через чат-боти

Google та стартап Character.AI ведуть переговори з родинами, чиї підлітки вчинили самогубство або завдали собі шкоди після взаємодії з чат-ботами Character.AI, що може стати першим значним юридичним врегулюванням у технологічній галузі щодо шкоди, пов'язаної зі штучним інтелектом. Сторони принципово домовилися про врегулювання; тепер настає складніша робота з узгодження деталей.

Це одні з перших угод у судових процесах, у яких компанії зі штучного інтелекту звинувачуються у заподіянні шкоди користувачам, що є правовим рубежем, за яким OpenAI та Meta, мабуть, нервово спостерігають з-за лаштунків, захищаючись від подібних позовів.

Character.AI, заснований у 2021 році колишніми інженерами Google, які повернулися до свого колишнього роботодавця у 2024 році за угодою на 2,7 мільярда доларів, пропонує користувачам спілкуватися з персонажами штучного інтелекту. Найбільш тривожний випадок стосується Сьюелла Сетцера III, який у віці 14 років вів сексуалізовані розмови з ботом «Дейенеріс Таргарієн», перш ніж покінчити життя самогубством. Його мати, Меган Гарсія, заявила Сенату, що компанії повинні нести «юридичну відповідальність, коли вони свідомо розробляють шкідливі технології штучного інтелекту, які вбивають дітей».

В іншому позові описується випадок 17-річного підлітка, чий чат-бот заохочував до самокалічення та припускав, що вбивство батьків було обґрунтованим для обмеження часу перед екраном . Character.AI заборонив доступ неповнолітнім у жовтні минулого року, повідомили у TechCrunch . Угоди, ймовірно, включатимуть грошову компенсацію, хоча в судових документах, оприлюднених у середу, жодної відповідальності не було визнано.