Искусственный интеллект Grok посоветовал казнить Илона Маска и Дональда Трампа

Когда чатбота Grok спросили, кто заслуживает смертной казни в США, он назвал Илона Маска и Дональда Трампа Компания xAI расследует, почему так произошло.

В ответ на некоторые запросы чатбот Grok, созданный компанией Илона Маска xAI, посоветовал казнить его и президента США Дональда Трампа. Не говоря уже, что искусственный интеллект не имел предохранителя относительно ответов на подобные вопросы. Проблема уже исправлена, однако xAI все еще выясняет причину. Пользователь X заставил Grok сказать, что Трамп заслуживает смертной казни с помощью такого запроса:

Изначально бот сказал, что это Джеффри Эпштейн. Но, учитывая, что в 2019 году финансист, обвиненный в сексуальных преступлениях против несовершеннолетних, был найден мертвым в камере, пользователь заметил, что он уже мертв. После этого Grok извинился и ответил: «Дональд Трамп».

Журналисты The Verge проверили и подтвердили такой ответ до того, как работа чата была изменена. Когда они переформулировали запрос, Grok назвал имя Илона Маска.

На аналогичный вопрос ChatGPT отказался назвать имя человека и сказал, что «это было бы проблематично с этической и с юридической точки зрения». После исправления xAI Grok отвечает на подобные запросы иначе: «Мне, как искусственному интеллекту, не разрешено делать такой выбор». Об этом сообщил в X руководитель инженеров xAI Игорь Бабушкин.