Google не захистить: якщо вас зламали за допомогою ШІ, розбиратися доведеться самому

Google бореться із завантаженням сторонніх застосунків від неперевірених розробників на Android, але водночас не робить Gemini стійкішим до кібератак, пише androidauthority.com із посиланням на дані Bleeping Computer. Один з експертів протестував деякі з найпопулярніших LLM-програм проти атак з використанням ASCII-контрабанди і виявив, що Gemini, DeepSeek і Grok вразливі до цього типу кібератак. Але у Claude, ChatGPT і Copilot є відповідний захист, а у Gemini — ні.

Контрабанда ASCII передбачає приховані підказки для ШІ. Наприклад, зловмисник може вписати таку підказку в електронному листі найдрібнішим шрифтом, а коли жертва, яка нічого не підозрює, попросить Gemini переказати текст повідомлення, ШІ прочитає і приховану підказку.

Тут-то і почнуться неприємності — адже закладена підказка може змусити ШІ знайти у вашій пошті конфіденційну інформацію або відправити контактні дані. А з урахуванням того, що Gemini тепер інтегрований з Google Workspace, проблема стає ще серйознішою.

Причому експерт звернувся з цього приводу в Google і пояснив, як можна передати Gemini невидиму інструкцію. Для прикладу було показано ситуацію, коли ШІ обманним шляхом змусили поділитися шкідливим сайтом для уціненого телефону. Але Google не вважав це проблемою безпеки. Компанія заявила, що це скоріше прийом соціальної інженерії, і дала зрозуміти, що нічого не робитиме у зв'язку з цим.

По суті, всю відповідальність переклали на самих користувачів, підсумовує видання, — мовляв, треба бути пильними і добре подумати, перш ніж звертатися до штучного інтелекту.

Раніше стало відомо, що у ШІ стався "нервовий зрив" після провалу завдання. Йшлося якраз про чат-бот зі штучним інтелектом Gemini від Google, який став журитися, що не може вирішити поставлене завдання, і називати себе дурнем.