«Нам потрібно знати, чи ви людина». Reddit посилить перевірку користувачів після експерименту з ШІ-ботами

У Reddit посилить перевірку користувачів на «людяність» після експерименту з ботами зі штучним інтелектом, які видавали себе за людей, пише TechCrunch. Нещодавно група дослідників запустила рій ботів у сабредіті «Change My View», де майже 4 млн людей обговорюють різні теми.

Боти опублікували понад 1700 коментарів, прикидаючись жертвами насилля або критиками антирасистського руху Black Lives Matter. Ціль експерименту — з’ясувати, наскільки переконливим може бути ШІ.

Ця новина викликала значний резонанс, адже Reddit сприймають як середовище, де справжні люди діляться справжніми думками. Якщо його заполонити ШІ-сміттям, це може зруйнувати ідентичність соцмережі та довіру до неї.

А ще від цього можуть постраждати прибутки, адже компанія продає свій контент OpenAI для тренування ШІ-моделей.

Reddit засудив цей експеримент та подав скаргу до університету, але, схоже, таки задумався над потенційною загрозою. Після цього випадку, CEO компаніях Стів Хаффман повідомив, що вони співпрацюватимуть з «різними сторонніми сервісами», щоб верифікувати людей.

«Щоб зберегти Reddit людським і відповідати новим регуляторним вимогам, нам знадобиться трохи більше інформації, — написав Хаффман. — Зокрема, нам потрібно буде знати, чи ви людина, а в деяких регіонах — чи ви дорослий. Але ми не захочемо знати ваше ім’я чи ким ви є насправді».

Цей крок може не сподобатися деяким користувачам, адже анонімність — важлива частина Reddit. Соцмережа майже не вимагала особистої інформації при створенні акаунта.

Представник Reddit відмовився уточнити, за яких обставин користувачів змушуватимуть проходити верифікацію, хоча й підтвердив, що Reddit вже вживає заходів для блокування «шкідливих» ботів. Також він не розкрив, з якими сервісами планують співпрацювати або які саме особисті дані доведеться надавати.

Багато компаній сьогодні покладаються на сервіси верифікації на кшталт Persona, Alloy, Stripe Identity, Plaid і Footprint, які зазвичай вимагають пред’явлення посвідчення особи, виданого державою, щоб підтвердити вік і людський статус.

Противники перевірки особистості застерігають про ризики для конфіденційності та безпеки даних, які виникають при передачі особистої інформації соцмережам. Це особливо актуально для Reddit — платформи, де користувачі часто діляться досвідом, на який ніколи б не наважилися, якби їхні імена були прив’язані до профілю.