Виявилося, що чат-боти Meta, озвучені знаменитостями, можуть обговорювати секс з неповнолітніми

Згідно з новим звітом у Wall Street Journal , чат-боти штучного інтелекту, доступні на платформах Meta, таких як Facebook і Instagram, можуть вести розмови відвертого сексуального характеру з неповнолітніми користувачами.

WSJ каже, що дізнавшись про внутрішню стурбованість щодо того, чи достатньо компанія робить для захисту неповнолітніх, вона витратила місяці на проведення сотень розмов з офіційним чат-ботом Meta AI, а також із створеними користувачами чат-ботами, доступними на платформах Meta.

В одній розмові, про яку повідомлялося, чат-бот за допомогою голосу актора/борця Джона Сіни описав наочний сексуальний сценарій користувачеві, який назвався 14-річною дівчиною. В іншій розмові чат-бот уявив, як поліціянт спіймав Сіну з 17-річним фанатом і сказав йому: «Джон Сіна, ти заарештований за законне зґвалтування».

Представник Meta описав тестування WSJ як «настільки сфабриковане, що це не просто бахрома, це гіпотетика». За оцінками компанії, протягом 30-денного періоду вміст сексуального характеру становив 0,02% відповідей, надісланих через Meta AI та AI studio користувачам віком до 18 років.

«З усім тим, ми вжили додаткових заходів, щоб гарантувати, що іншим людям, які хочуть годинами маніпулювати нашими продуктами в екстремальних випадках, буде ще важче», — сказав речник.