Google не защитит: если вас взломали с помощью ИИ, разбираться придется самому

Google борется с загрузкой сторонних приложений от непроверенных разработчиков на Android, но при этом не делает Gemini более устойчивым к кибератакам, пишет androidauthority.com со ссылкой на данные Bleeping Computer. Один из экспертов протестировал некоторые из самых популярных LLM-программ против атак с использованием ASCII-контрабанды и обнаружил, что Gemini, DeepSeek и Grok уязвимы к этому типу кибератак. Но у Claude, ChatGPT и Copilot есть соответствующая защита, а у Gemini – нет.

Контрабанда ASCII подразумевает скрытые подсказки для ИИ. Например, злоумышленник может вписать такую подсказку в электронном письме самым мелким шрифтом, а когда ничего не подозревающая жертва попросит Gemini пересказать текст сообщения, ИИ прочтет и скрытую подсказку.

Тут-то и начнутся неприятности – ведь заложенная подсказка может заставить ИИ найти в вашей почте конфиденциальную информацию или отправить контактные данные. А с учетом того, что Gemini теперь интегрирован с Google Workspace, проблема становится еще более серьезной.

Причем эксперт обратился по этому поводу в Google и пояснил, как можно передать Gemini невидимую инструкцию. Для примера была показана ситуация, когда ИИ обманным путем заставили поделиться вредоносным сайтом для уцененного телефона. Но Google не посчитал это проблемой безопасности. Компания заявила, что это скорее прием социальной инженерии, и дала понять, что ничего не будет предпринимать в этой связи.

По сути, всю ответственность переложили на самих пользователей, подытоживает издание, – мол, надо быть бдительными и хорошо подумать, прежде чем обращаться к искусственному интеллекту.