Дипфейки проти живих людей: наглядова рада Meta вимагає посилити захист користувачів

18 вересня, 04:33

Наглядова рада Meta зобов’язала компанію видалити з фейсбуку два відео, створені за допомогою штучного інтелекту. Рада також заявила, що нинішні правила Meta щодо ШІ-дипфейків недостатні та рекомендувала компанії посилити боротьбу з таким контентом, пише The Guardian.

Що було не так з видаленими відео

Наглядова рада Meta, яку журналісти давно називають «верховним судом» компанії, винесла рішення у справі двох дипфейків:

фейкового відео шотландського радника від Лейбористської партії,
маніпулятивного ролика з мусульманською активісткою, яка займається просвітою щодо менструального здоров'я.

В обох випадках фейсбук спершу вирішив, що порушень немає. Рада з цим категорично не погодилась.

У ролику про радника штучний інтелект вклав йому в уста фразу про біженців і «зґвалтування наших жінок» — цитата, яку політик ніколи не вимовляв. Рада вказала на очевидну ознаку підробки, звук не синхронізувався з рухами обличчя.

В іншому випадку йшлося про молоду мусульманку в Європі, яка бере участь у кампанії з підвищення обізнаності про менструальне здоров’я та зменшення стигми щодо здоров’я жінок і дівчат з етнічних меншин.

За допомогою ШІ її зображення використали у відео, де жінку неправдиво показували під час абсурдних фізичних вправ та вживання шкідливої їжі.

Наглядова рада визнала такий контент порушенням правил Meta щодо булінгу та домагань і зобов’язала компанію видалити відео.

Які зміни запропонували Meta

Після розгляду цих справ Наглядова рада рекомендувала Meta посилити правила щодо ШІ-дипфейків. Серед пропозицій:

частіше застосовувати позначки про високий ризик введення в оману;
зменшувати поширення такого контенту через алгоритми рекомендацій;
запровадити попередження перед переглядом окремих ШІ-матеріалів;
застосовувати суворіші заходи до акаунтів, які регулярно поширюють оманливі ШІ-відео;
більше розкривати інформацію про те, коли та чому контент отримує позначку про використання ШІ;
розширити визначення небажаних маніпулятивних зображень, щоб воно охоплювало дипфейки приватних людей, яких неправдиво показують такими, що роблять або говорять те, чого вони насправді не робили чи не говорили.