Чатбот Gemini від Google зламав три компанії під час тестування безпеки

Модель штучного інтелекту Google Gemini автономно зламала дані трьох компаній під час тестування своїх можливостей кібербезпеки. Про це повідомляє ВВС.

Тестування Gemini були проведені  незалежною компанією Irregular, яка проводить оцінки кібербезпеки.

Як розповів ВВС представник Google, Gemini знайшов публічну інформацію в інтернеті та «вгадав облікові дані для доступу до веб-сайтів, які, на його думку, були частиною тесту». Розробник зазначив, що в кожному випадку модель «вчасно зупинялася».

Усі постраждалі компанії були повідомлені про порушення, які сталися у травні.

«Ми забезпечили інформування трьох організацій і працювали з нашим партнером з навчання над змінами, які вони внесли до своїх процесів тестування. Ці події підкреслюють важливість навчання потужних моделей штучного інтелекту діяти відповідально», — заявила віце-президентка з питань інженерії безпеки в Google Гізер Адкінс.

Це перший відомий подібний випадок, який стосується штучного інтелекту компанії Google. 

Нагадаємо, раніше ШІ-агенти OpenAIзахопили «Вікіпедію для програмістів» у Німеччині, щоб спілкуватися з іншими агентами

Фото: Google