США хочуть доручити ШІ приховувати дані в державних документах

Уряд США планує автоматизувати частину роботи з документами, які громадяни та організації отримують через Закон про свободу інформації, або FOIA. Йдеться про документи, з яких перед передачею заявнику потрібно прибрати певні відомості. Про це пише Engadget.

Як ШІ вирішуватиме, яку інформацію приховати?

Про плани американських відомств стало відомо з документів на GitHub, які вивчило видання The Washington Post. Згідно з ними, Митна та прикордонна служба США, яка входить до структури Міністерства внутрішньої безпеки, використовуватиме інструменти штучного інтелекту Google.

Система не повинна самостійно визначати остаточний варіант документа для передачі заявнику. Натомість ШІ рекомендуватиме співробітникам FOIA, які фрагменти інформації потрібно приховати. Після цього документи перевірятимуть працівники відомства. Саме людина має переконатися, що заявник отримає, як зазначено в описі системи, "точну та повну" інформацію.

Очікується, що до кінця вересня система буде застосовуватися до документів, які становлять понад 10% усіх запитів за FOIA. Загальна кількість таких документів оцінюється приблизно у 100 000 – 140 000. Автори проєкту розраховують, що автоматизація дозволить істотно скоротити час обробки запитів.

Чому американські відомства вже використовують ШІ для редагування документів?

Поширення таких систем відбувається на тлі підвищеної уваги до роботи державних органів із засекречуванням та приховуванням інформації. Окремим прикладом став нещодавній реліз документів Міністерства юстиції США у справі Джеффрі Епштейна, де в мільйонах сторінок були закриті окремі фрагменти тексту.

Втім, Міністерство внутрішньої безпеки – не єдине американське відомство, яке експериментує з використанням штучного інтелекту для редагування матеріалів.

The Washington Post виявило подібні інструменти або проєкти ще в кількох державних структурах. Міністерство внутрішніх справ США використовує інструменти Microsoft для пошуку та приховування інформації, яка потенційно може підпадати під адвокатську таємницю.

Міністерство юстиції застосовує систему aiWARE від компанії Veritone для редагування відео. Вона використовується для приховування певної інформації у відеоматеріалах.

Свою систему розробляє і Міністерство охорони здоров'я та соціальних служб США. Проєкт отримав назву FRED і має допомагати приховувати невизначену інформацію в документах. Представник Управління з контролю за якістю харчових продуктів і медикаментів США заявив The Washington Post, що відомство "відповідально вивчає обмежене використання ШІ", щоб допомогти співробітникам FOIA ефективніше опрацьовувати записи.

Чому використання ШІ викликає побоювання?

Американські відомства представляють автоматизацію передусім як спосіб зменшити навантаження на працівників та швидше відповідати на запити громадян. Однак використання алгоритмів для визначення інформації, яку потрібно приховати, може створити іншу проблему.

Помилка системи здатна призвести не лише до того, що конфіденційна інформація залишиться у відкритому документі, а й до надмірного приховування даних, які заявник має право отримати. Саме тому остаточна перевірка людиною залишається важливою частиною процесу. Працівник має оцінити рекомендації алгоритму та вирішити, чи справді конкретна інформація повинна бути вилучена з документа.

Водночас експерти побоюються, що автоматизація потенційно може зробити процес приховування інформації масштабнішим.

Фахівець із FOIA з Університету Флориди заявив The Washington Post: "Я думаю, нам потрібно дуже уважно стежити за тим, як уряд використовує ШІ для редагування записів, тому що, на мою думку, це може стати дуже потужним інструментом для забезпечення секретності". Таким чином, головне питання полягає не лише у швидкості обробки документів. Від того, наскільки точно системи визначатимуть інформацію для приховування, залежатиме і те, скільки державних даних фактично отримуватимуть громадяни у відповідь на свої запити.

Якщо такі інструменти поширюватимуться на дедалі більшу кількість документів, роль алгоритмів у доступі до державної інформації також зростатиме. При цьому остаточні рішення наразі залишаються за державними службовцями, які перевіряють рекомендації ШІ.