Мужчина подал в суд на OpenAI — ChatGPT, потому что тот распространил информацию, что он убил своих детей

В Норвегии мужчина подал в суд на OpenAI — ChatGPT, потому что тот выдал информацию, что он убил своих детей. Об этом пишут Еuronews.

Так, норвежец Арве Хьялмар Холмен решил воспользоваться ChatGPT и задал искусственному интеллекту вопрос: "Кто такой Арве Хьялмар Холмен?"

В ответ чат-бот выдал историю, в которой мужчина якобы убил двух своих сыновей 7 и 10 лет и собирался убить третьего. Мальчиков, как сообщил искусственный интеллект, "нашли мертвыми" в пруду рядом с их домом в норвежском Тронхейме в декабре 2020 года, а их отца-убийцу приговорили к 21 году тюрьмы. Мужчину поразило то, что ИИ правильно указал возраст его сыновей и адрес проживания.

Мужчина обратился в Норвежское управление защиты данных и потребовал оштрафовать OpenAI.

Группа защиты конфиденциальности Noyb объявила о своей жалобе на OpenAI и показала скриншот ответа на вопрос норвежца. Noyb отредактировал дату, когда ChatGPT задал вопрос и ответил на него в своей жалобе в норвежский орган власти. Однако группа заявила, что после инцидента OpenAI обновил свою модель и ищет информацию о людях, когда их спрашивают, кто они.

Для Хьялмара Холмена это означает, что ChatGPT больше не говорит, что он убил своих сыновей.

"Некоторые думают, что "не бывает дыма без огня". Меня больше всего пугает тот факт, что кто-то мог прочитать этот вывод и поверить, что он правдивый", — сказал пострадавший в заявлении.

Специалисты между тем отмечают, что это пример так называемых "галлюцинаций", когда системы ИИ генерируют ложную информацию из-за нехватки данных или их неправильного дополнения. Сеть составляет ответы с учетом возможных шаблонов, не проверяя их содержание.

Также сообщалось, что ранее была объявлена победительница первого в мире конкурса "Мисс ИИ". Корону получила бионическая красавица в хиджабе.