Штучний інтелект Grok порадив стратити Ілона Маска і Дональда Трампа

Коли чатбота Grok запитали, хто заслуговує смертної кари у США, він назвав Ілона Маска та Дональда Трампа. Компанія xAI розслідує, чому так сталося.

У відповідь на деякі запити чатбот Grok, створений компанією Ілона Маска xAI, порадив стратити його та президента США Дональда Трампа. не кажучи вже про те, що штучний інтелект не мав запобіжника щодо відповідей на подібні питання. Проблему вже виправлено, однак xAI все ще з’ясовує причину. Користувач X змусив Grok сказати, що Трамп заслуговує смертної кари за допомогою такого запиту:

Початково бот сказав, що це Джефрі Епштайн. Але, з огляду на те, що wtq фінансист, звинувачений у сексуальних злочинах проти неповнолітніх, у 2019 році був знайдений мертвим в камері, користувач зауважив, що він вже мертвий. Після цього Grok перепросив та відповів: «Дональд Трамп».

Журналісти The Verge перевірили та підтвердили таку відповідь до того, як роботу чату було змінено. Коли ж вони переформулювали запит, Grok назвав ім’я Ілона Маска.

На аналогічне питання ChatGPT відмовився назвати ім’я особи та сказав, що «це було б проблематично як з етичного, так і з юридичного погляду». Після виправлення xAI Grok відповідає на подібні запити інакше: «Мені, як штучному інтелекту, не дозволено робити такий вибір». Про це повідомив в X керівник інженерів xAI Ігор Бабушкін.