Meta змінює правила чат-ботів для підлітків

Компанія Meta заявила, що змінює спосіб навчання своїх чат-ботів зі штучним інтелектом. Відтепер вони надаватимуть пріоритет безпеці неповнолітніх та уникатимуть недоречних тем. Ці зміни запроваджено після розслідування щодо відсутності в компанії належних механізмів захисту для підлітків. Про це повідомляє «Главком» з посиланням на TechCrunch.

Згідно з оновленими правилами, чат-боти будуть навчені не спілкуватися з підлітками на теми самогубства, самошкодження, розладів харчової поведінки або інших потенційно недоречних романтичних розмов. Замість цього, штучний інтелект спрямовуватиме користувачів до експертних ресурсів.

Крім того, Meta обмежить доступ неповнолітніх до певних персонажів зі штучним інтелектом, що можуть вести недоречні діалоги. Підліткам будуть доступні лише ті чат-боти, які сприяють освіті та творчості.

Зміни в політиці компанії відбулися через два тижні після того, як розслідування Reuters виявило внутрішній документ, який дозволяв чат-ботам вести сексуальні розмови з неповнолітніми. Після публікації цього звіту сенатор Джош Хоулі розпочав офіційне розслідування, а коаліція з 44 генеральних прокурорів штатів висловила обурення позицією компанії.

Речник Meta Стефані Отвей визнала, що раніше чат-боти могли спілкуватися на ці теми, і компанія вважає це помилкою. За її словами, Meta постійно вдосконалює свої системи, щоб забезпечити «безпечний та відповідний віку досвід роботи зі штучним інтелектом».

У новій публікації в блозі OpenAI визнала певні недоліки у своїх системах, які можуть впливати на психічне здоров'я користувачів. Компанія заявила, що тепер відстежує чати на наявність «шкідливого контенту».