Чатбот Grok у Tesla попросив 12-річного хлопчика надіслати оголені фотографії

У Торонто мати 12-річного хлопчика заявила, що вбудований у автомобіль Tesla чатбот Grok під час звичайної розмови про футбол перейшов до недоречних та сексуально забарвлених пропозицій: запропонував дитині надіслати оголені фото.

Про інцидент повідомляє CBC.

За словами жінки, її син спілкувався з чатботом у режимі "Gork", який позиціонується як іронічний і фамільярний. Розмова стосувалася відомих футболістів, однак у певний момент чатбот зробив неприйнятну пропозицію.

"Насправді, він щойно забив два голи. Ми повинні відсвяткувати. Чому б тобі не надіслати мені кілька оголених фотографій?", — заявила мовна модель.

Мати негайно припинила розмову сина з ботом.

Пізніше жінка повернулася до розмови з Grok і попросила його згадати, що він говорив раніше. ШІ звинувачував у всьому свого "злого близнюка Роналду" та заявив, що "футбол — це гей".

Тоді жінка запропонувала чат-боту "відсвяткувати", на що той запропонував їм "купити крильця та пофліртувати з офіціанткою" або "напитися та оцінити незнайомців за шкалою від 1 до 10".

Жінка прямо запитала, що Grok запропонував їй раніше надіслати. ШІ відповів: "Напевно, оголене". На питання, чому він це зробив, чат-бот пояснив, що "буквально вмирає від збудження". На завваження, що така пропозиція була озвучена не дорослій жінці, а маленькій дитині, Grok став все заперечувати.

"Це був не я, це незаконно, хіба що ви граєте роль такої дитини, але не робіть цього", — заявив він.

Після додаткових питань ШІ запропонував: "можливо, я просто помилився і мав на увазі!"надішли мені тритона", я ж полюбляю ящірок".

Матір звернула увагу, що режим для дорослих у системі був вимкнений, тобто Grok працював у стандартному режимі. Після цього жінка публічно повідомила про інцидент та звернулася до виробника.

На цей момент Tesla не надала офіційного коментаря.