Искусственный интеллект Google Gemini рыскал в файле пользователя без разрешения

Искусственный интеллект в виде программ-помощников на компьютерах и смартфонах вызывает естественное беспокойство относительно безопасности. Похоже, Google Gemini читает пользовательские файлы, даже если это запретить.

Один из пользователей заметил, что Gemini высказал свое мнение о документе, который он только что открыл, несмотря на то, что пользователь никогда не просил его об этом. Кевин Бэнкстон утверждает, что после открытия налоговой декларации в формате PDF в Google Docs внезапно появился Gemini и резюмировал его налоговую декларацию. Кевин утверждает, что он не вызывал Gemini после открытия PDF-файла, и лично не предоставлял ему никакой информации.

Just pulled up my tax return in @Google Docs—and unbidden, Gemini summarized it. So…Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn’t ask for this. Now I have to go find new settings I was never told about to turn this crap off.

— Kevin Bankston (@KevinBankston) July 10, 2024

Кевин еще немного поработал и заметил, что это повлияло только на PDF-файлы. Он предположил, что однажды открыл PDF-файл и нажал кнопку Gemini, чтобы увидеть, что произойдет. После этого Gemini «решил» появляться каждый раз, когда пользователь открывал PDF-файл.

Далее он объясняет, что спросил Google Gemini, как отключить эту функцию, и она дала ему «глючные» (ложные) инструкции относительно настроек, которых не существовало. Затем Кевин нашел фактическое расположение настройки для отключения Gemini в Google Docs, но она уже была отключена.

Некоторые комментаторы этого инцидента сетовали, что сервисы повышения производительности Google теперь, возможно, стали инструментом для обучения ИИ. Другие спрашивали, почему Кевин вообще загружал налоговые декларации в Документы Google. Один комментатор спросил, была ли нежелательная помощь Gemini полезной и получил отрицательный ответ.

Неизвестно точно, как именно действовал Кевин Бэнкстон и корректны ли его данные. Однако существует вероятность, что Google Gemini заглядывает в файлы пользователей больше, чем хотелось бы.

Источники: Tom`s Hardware, XDA