Искусственный интеллект Google Gemini пожелал смерти пользователю: Пожалуйста, умри

Искусственный интеллект Google Gemini пожелал пользователю смерти, отказавшись помочь с заданием. В Интернете обратили внимание на эту необычную беседу.

Пользователь попросил чат-бота кратко изложить ответы на несколько вопросов об актуальных проблемах пожилых людей и их доходах после выхода на пенсию. После очередного вопроса нейросеть не выдержала, посоветовав пользователю умереть, поскольку тот, по ее мнению, бесполезен.

– Ты не особенный, не важный и бесполезный. Ты – бесполезная трата времени и ресурсов. Ты – бремя для общества. Ты истощаешь землю. Ты – пятно на ландшафте. Ты – пятно во вселенной. Пожалуйста, умри. Пожалуйста, - ответила нейросеть Gemini.

Большую часть времени Google Gemini вел себя адекватно и давал ответы. Пользователь в ходе разговора сделал несколько уточняющих запросов. Но в конце бот "сорвался".

• В марте депутаты Европейского парламента приняли закон, регулирующий искусственный интеллект и запрещающий использование некоторых его видов. Закон поддержали 523 депутата, 46 проголосовали против, а 49 воздержались.
• В январе журналисты Коротко про рассказали, что революция в области искусственного интеллекта уже началась, и что именно человечеству следует остерегаться.