Французькі міністри звернулись в прокуратуру через Grok

Функція чат-боту Grok "роздягати" будь-які фотографії й сексуалізовувати зображення змусила французьких урядовців звернутися до прокуратури проти ШІ-сервісу Ілона Маска.

Французькі міністри спрямували в прокуратуру заяву про створення й поширення сексуально відвертого контенту, створеного чат-ботом Grok на базі штучного інтелекту (ШІ) xAI Ілона Маска на платформі X. Як зазначається в оприлюдненій у п'ятницю, 2 січня, заяві французьких урядовців, у цьому випадку йдеться про "сексуальний і сексистський" контент, який є "явно незаконним".

Крім того, французькі міністри заявили, що повідомили про цей контент французькому регулятору ЗМІ Arcom для перевірки на відповідність нормам Закону про цифрові послуги Європейського Союзу, повідомляє інформагенція Reuters.

Сам чат-бот визнав, що порушував закон, "редагуючи фотографії"

Раніше в п'ятницю сам чат-бот Grok визнав, що через прогалини в системі безпеки у соцмережі X з'явилися "зображення, на яких зображені неповнолітні в мінімальному одязі", і що для запобігання цьому вживаються заходи.

Раніше низка ЗМІ, а також багато користувачів соцмережі X звернули увагу на те, що в мережі стало стрімко зростати число світлин, "відредагованих" чат-ботом Grok на прохання декого з користувачів, котрі просили "роздягнути" до бікіні тих, хто був зображений на фото.

Так, видання Bloomberg повідомило, що цей чат-бот без застережень і заперечень реагував на команди "зніми з неї одяг" або "одягни її в бікіні". Утім, повністю роздягати тих, хто був на фото, Grok відмовлявся. Подеколи Grok погоджувався генерувати "роздягнені" фото навіть неповнолітніх, чим порушував власну політику, що забороняє сексуалізацію дітей, йдеться в статті Bloomberg.