Google розширить операції з виявлення шахрайства та забезпечення безпеки на основі ШІ в Індії

Google представила свою Хартію безпеки в Індії, яка розширить її розробки на основі штучного інтелекту для виявлення шахрайства та боротьби з аферами по всій країні, найбільшому ринку компанії за межами Сполучених Штатів.

Цифрове шахрайство в Індії зростає. Згідно з урядовими даними, шахрайство, пов'язане з системою миттєвих платежів індійського уряду UPI, зросло на 85% у річному обчисленні до майже 11 мільярдів індійських рупій (127 мільйонів доларів США) минулого року. В Індії також сталося кілька випадків шахрайства з цифровими арештами, коли шахраї видавали себе за посадовців, щоб вимагати гроші за допомогою відеодзвінків та шахрайських кредитних додатків.

За допомогою своєї Хартії безпеки Google прагне вирішити деякі з цих питань. Компанія також відкрила свій центр інженерії безпеки в Індії, свій четвертий центр після Дубліна, Мюнхена та Малаги.

Анонсований на саміті Google для Індії минулого року, центр інженерії безпеки (GSec) дозволить Google співпрацювати з місцевою громадою, включаючи уряд, наукові кола та студентів, а також малими та середніми підприємствами для створення рішень для розв'язання проблем кібербезпеки, конфіденційності, безпеки та штучного інтелекту, заявила віце-президент Google з інженерії безпеки Гізер Адкінс в інтерв'ю TechCrunch.

Компанія Google повідомила у своєму блозі, що співпрацює з Індійським координаційним центром з питань кіберзлочинності (I4C) Міністерства внутрішніх справ для підвищення обізнаності про кіберзлочини. Це ґрунтується на існуючій роботі компанії, включаючи запуск програми виявлення онлайн-шахраїв DigiKavach , яка дебютувала у 2023 році для обмеження шкідливого впливу шкідливих фінансових додатків та шахрайських кредитних додатків.

За словами Адкінса в інтерв'ю TechCrunch, Google зосередиться на трьох ключових напрямках, що стосуються GSec в Індії: феномен онлайн-шахрайства та шахрайства, а також те, як люди захищаються в Інтернеті; кібербезпека підприємств, уряду та критичної інфраструктури; та створення відповідального штучного інтелекту.

«Ці три сфери стануть частиною нашої хартії безпеки для Індії, і протягом наступних років… ми хочемо використати той факт, що у нас є інженерні можливості тут, щоб розв'язати проблеми, які відбуваються в Індії, поблизу місць, де знаходяться користувачі», – сказав Адкінс.

У всьому світі Google використовує штучний інтелект для боротьби з онлайн-шахрайством та видалення мільйонів реклами та рекламних облікових записів. Компанія має на меті ширше впроваджувати штучний інтелект в Індії для боротьби з цифровим шахрайством.

Google Messages, який попередньо встановлений на багатьох пристроях Android, використовує функцію виявлення шахрайства на базі штучного інтелекту, яка допомагає захистити користувачів від понад 500 мільйонів підозрілих повідомлень на місяць. Аналогічно, Google минулого року випробувала свій Play Protect в Індії, який, за її твердженням, заблокував майже 60 мільйонів спроб встановлення високоризикових програм, що призвело до зупинки понад 220 000 унікальних програм на понад 13 мільйонах пристроїв. Google Pay, один з провідних платіжних додатків на базі UPI в країні, також відобразив 41 мільйон попереджень про транзакції, які підозрюються як потенційне шахрайство.

Адкінс, один із засновників команди безпеки Google, який працює в інтернет-компанії понад 23 роки, обговорив кілька інших тем під час інтерв'ю TechCrunch:

Щодо неправильного використання інструментів штучного інтелекту

Адкінс сказав, що одне, про що варто пам'ятати головне, це використання та зловживання штучним інтелектом зловмисниками.

«Ми, очевидно, дуже уважно стежимо за розвитком штучного інтелекту, і досі ми здебільшого бачили моделі великих мов, такі як Gemini, як засоби підвищення продуктивності. Наприклад, щоб зробити фішингові шахрайства трохи ефективнішими, особливо якщо актор і ціль розмовляють різними мовами, вони можуть використовувати переваги перекладу, щоб зробити шахрайство більш правдоподібним за допомогою діпфейків, зображень, відео тощо», – сказав Адкінс. 

Адкінс сказав, що Google проводить масштабне тестування своїх моделей штучного інтелекту, щоб переконатися, що вони розуміють, чого не слід робити.

«Це важливо як для згенерованого контенту, який може бути шкідливим, так і для дій, які він може вжити», – сказав Акінс.

Google працює над фреймворками, зокрема Secure AI Framework , щоб обмежити зловживання своїми моделями Gemini. Однак, щоб захистити генеративний ШІ від неправильного використання та зловживань хакерами в майбутньому, компанія бачить потребу у фреймворку для забезпечення безпеки комунікації кількох агентів.

«Галузь дуже й дуже швидко розвивається, впроваджуючи протоколи. Це майже як ранні дні інтернету, коли всі випускають код у режимі реального часу, а ми думаємо про безпеку вже після цього», – сказав Адкінс.

Google не хоче впроваджувати лише власні фреймворки, щоб обмежити масштаби зловживання генеративним штучним інтелектом хакерами. Натомість за словами Адкінса, компанія співпрацює з дослідницькою спільнотою та розробниками. 

«Одна з речей, яку ви не хочете робити, це надто обмежувати себе на ранніх етапах досліджень», — сказав Адкінс.

Про постачальників послуг спостереження

Поряд із потенціалом зловживання генеративним ШІ з боку хакерів, Адкінс вважає комерційних постачальників засобів спостереження значною загрозою. До них можуть належати виробники шпигунського програмного забезпечення, зокрема NSO Group , яка сумно відома своїм шпигунським програмним забезпеченням Pegasus , або інші малі підприємства, що продають інструменти спостереження.

«Це компанії, що розгортаються по всьому світу, які розробляють, створюють та продають платформи для злому», — сказав Адкінс. «Ви можете заплатити 20 доларів, можете заплатити 200 000 доларів, залежно від складності платформи, і це дозволяє вам масштабувати атаки на людей без жодного власного досвіду».

Деякі з цих постачальників також продають свої інструменти для шпигунства за людьми на ринках, зокрема в Індії . Однак, окрім того, що країна є мішенню інструментів стеження, вона має свої унікальні проблеми, частково через свій розмір. У країні трапляються не лише діпфейки та шахрайство з клонуванням голосу на основі штучного інтелекту, але й випадки цифрових арештів , які, на думку Адкінса, є лише звичайними шахрайствами, адаптованими до цифрового світу.

«Ви можете бачити, як швидко просуваються самі зловмисники… Мені подобається вивчати кібербезпеку в цьому регіоні саме через це. Це часто натяк на те, що ми побачимо в усьому світі в певний момент», – сказав Адкінс.

Про багатофакторну автентифікацію

Google давно заохочує своїх користувачів використовувати безпечніші методи автентифікації, окрім паролів, для захисту своєї присутності в Інтернеті. Компанія раніше ввімкнула багатофакторну автентифікацію (MFA) для всіх облікових записів користувачів, а також просуває апаратні ключі безпеки, про що згадував Адкінс, вказуючи на те, що її співробітники активно використовують свої ноутбуки. «Безпарольний» також стає популярним технологічним терміном з різними значеннями.

З усім тим, очікувати, що люди відмовляться від паролів на такому ринку, як Індія, важко через його величезну демографічну ситуацію та різноманітний економічний ландшафт.

«Ми дуже давно знали, що паролі не є безпечними. Ця концепція багатофакторної автентифікації була кроком уперед», – сказав Адкінс, додавши, що індійці, ймовірно, надають перевагу автентифікації на основі SMS над іншими варіантами багатофакторної автентифікації.