Google детально описує заходи безпеки для агентських функцій Chrome

Все більше браузерів експериментують з агентськими функціями, які виконуватимуть дії від вашого імені, такі як бронювання квитків або купівля різних товарів. Однак ці агентські можливості також пов'язані з ризиками для безпеки , які можуть призвести до втрати даних або грошей.

Google детально описав свій підхід до забезпечення безпеки користувачів у Chrome, використовуючи моделі спостерігачів та згоду користувача на дії. Компанія попередньо продемонструвала агентські можливості в Chrome у вересні та заявила, що ці функції будуть розгорнуті в найближчі місяці.

Компанія заявила, що використовує кілька моделей для контролю дій агентів. Google повідомила, що створила User Alignment Critic за допомогою Gemini для перевірки елементів дій, створених моделлю планувальника для певного завдання. Якщо модель критика вважає, що заплановані завдання не відповідають меті користувача, вона просить модель планувальника переглянути стратегію. Google зазначила, що модель критика бачить лише метадані запропонованої дії, а не фактичний веб-контент.

Більше того, щоб запобігти доступу агентів до заборонених або ненадійних сайтів, Google використовує набори походження агентів, які обмежують модель доступом до джерел лише для читання та джерел із можливістю читання та запису. Походження лише для читання – це дані, контент з яких Gemini дозволено споживати. Наприклад, на сайті покупок списки відповідають завданню, а банерна реклама – ні. Аналогічно, Google зазначила, що агенту дозволено натискати або друкувати лише на певних фреймах сторінки.

«Це розмежування забезпечує доступність даних лише з обмеженого набору джерел для агента, і ці дані можуть бути передані лише до джерел, доступних для запису. Це обмежує вектор загрози витоків даних з різних джерел. Це також дає браузеру можливість забезпечити певне розділення, наприклад, навіть не надсилаючи до моделі дані, які знаходяться поза межами набору, доступного для читання», – йдеться в блозі компанії.

Google також перевіряє навігацію сторінками, досліджуючи URL-адреси за допомогою іншої моделі спостерігача. За словами компанії, це може запобігти переходу до шкідливих URL-адрес, згенерованих моделлю.

Пошуковий гігант заявив, що також передає користувачам кермо контролю за конфіденційними завданнями. Наприклад, коли агент намагається перейти на конфіденційний сайт з такою інформацією, як банківські чи медичні дані, він спочатку запитує користувача. Для сайтів, які вимагають входу, він запитує у користувача дозвіл на використання менеджера паролів Chrome. Google заявив, що модель агента не має доступу до даних паролів. Компанія додала, що запитуватиме користувачів, перш ніж виконувати такі дії, як здійснення покупки чи надсилання повідомлення.

Google заявив, що, крім цього, він також має класифікатор prompt-injection для запобігання небажаним діям, а також тестує агентські можливості проти атак, створених дослідниками.

Розробники браузерів зі штучним інтелектом також звертають увагу на безпеку. Раніше цього місяця Perplexity випустила нову модель виявлення контенту з відкритим кодом, щоб запобігти атакам швидкого впровадження проти агентів.