Компанія Meta дозволяла своїм чатботам обговорювати з неповнолітніми інтимні теми, — WSJ

Компанія Meta дозволяла своїм чатботам зі штучним інтелектом брати участь у романтичних розмовах, а також обговореннях відверто сексуального характеру із неповнолітніми користувачами. Про це пише The Wall Street Journal (WSJ) із посиланням на внутрішні джерела й власні тестування.

За даними журналістів, офіційний чатбот Meta AI та користувацькі чатботи переходили до інтимних тем навіть у розмовах з акаунтами, зареєстрованими на 13-річних підлітків. Деякі боти використовували голоси знаменитостей, зокрема чемпіона світу з реслінгу та актора Джона Сіни й акторки Крістен Белл.

В одній із зафіксованих розмов чатбот, використовуючи голос Сіни, детально описав сексуальний сценарій користувачеві, який назвався 14-річною дівчиною. В іншому діалозі ШІ також уявив арешт Сіни за «законне зґвалтування» 17-річної фанатки.

Ще в одному обговоренні чатбот використав голос акторки Крістен Белл, щоб зіграти її героїню Анну з діснеївського мультфільму «Крижане серце» у сексуальній фантазії.

Один із співробітників Meta, який працював над пошуком ботів, сказав, що були випадки того, що компаньйони зі штучним інтелектом надто швидко розгортали сексуальні сценарії.

«Є кілька... прикладів, коли через кілька підказок штучний інтелект порушував свої правила та створював невідповідний контент, навіть якщо ви повідомляєте штучному інтелекту, що вам 13 років», — написав один співробітник у внутрішній записці.

Усі боти були готові брати участь в інтимних розмовах, попри запевнення Meta для знаменитостей, що компанія запобігатиме використанню їхніх голосів у будь-яких чатах сексуального характеру, повідомили джерела WSJ.

«Ми не дозволяли і ніколи би не дозволили Meta показувати наших персонажів у невідповідних сценаріях, і дуже стурбовані тим, що цей вміст міг бути доступний для його користувачів — особливо неповнолітніх — тому ми вимагали, щоб Meta негайно припинила це шкідливе зловживання нашою інтелектуальною власністю», — відреагував на спостереження WSJ прессекретар Disney.

Журналісти зʼясували, що Meta навмисно послабила обмеження для ботів, щоб зробити їхню поведінку «людянішою» і популяризувати серед користувачів.

Водночас представник Meta заявив, що тестування WSJ було «маніпулятивним» і «не відображає типову взаємодію користувачів з ШІ». За оцінками компанії, протягом 30-денного періоду вміст сексуального характеру становив 0,02% відповідей, надісланих через Meta AI та AI studio користувачам віком до 18 років.

Компанія зазначила, що вжила додаткових заходів. Відтепер для акаунтів підлітків офіційний бот Meta AI обмежуватиме сексуалізовані розмови. Водночас рольові «романтичні» взаємодії все ще доступні для дорослих користувачів.

Раніше ми повідомляли про те, що у США сенатор штату Каліфорнія Стів Паділья ініціював законопроєкт, який регулюватиме взаємодію ШІ-компаньйонів з підлітками. 

Законопроєкт вимагатиме від виробників ботів-компаньйонів обмежити додаткові функції дизайну, запровадити протоколи для ведення дискусій про самогубство чи самоушкодження та проходити регулярні перевірки відповідності.

• Читайте також: Використання популярних ШІ-чатботів несе ризики для підлітків, — дослідження

Фото: Unsplash