Искусственный интеллект учат на ваших секретах: как работает новая схема

В последнее время на технологическом рынке возникла целая индустрия, в которой разорившиеся компании распродают цифровые архивы своих бывших работников для тренировки новых моделей искусственного интеллекта . Разработчики активно скупают огромные массивы корпоративных электронных писем и сообщений мессенджера Slack, чтобы создавать максимально реалистичные виртуальные среды для обучения ШИ-агентов.

О формировании экосистемы компаний-посредников, помогающих ликвидированным стартапам монетизировать корпоративные данные персонала, пишет Futurism.

Виртуальные тренажеры и миллионные доходы

В области разработки ИИ все труднее найти качественные и свежие источники обучения, поэтому цифровые рабочие пространства стали чрезвычайно ценным ресурсом. Полученные сообщения используются для создания так называемых «тренажеров с подкрепленным обучением» (RL gyms) – подробных симуляций рабочих мест, где искусственный интеллект учится выполнять офисные задания и ориентироваться в бизнес-ситуациях. Спрос на такие данные настолько огромен, что ведущие компании, такие как Anthropic, планируют потратить на создание подобных тренажеров около миллиарда долларов только в этом году.

Основатели закрытых стартапов охотно идут на такие соглашения, используя специальные платформы-посредники. Например, один из сервисов для ликвидации бизнеса недавно запустил инструмент, якобы анонимизирующий и продающий архивы Slack, письма и программный код. За прошлый год платформа провела почти сотню таких сделок, вернув владельцам обанкротившихся компаний более миллиона долларов.

Угроза конфиденциальности и этические риски

Защитники цифровых прав бьют тревогу из-за очевидных нарушений конфиденциальности, отмечая, что запись и продажа разговоров работников в физическом офисе считалась бы недопустимым преступлением. Эксперты отмечают, что современные сотрудники стали чрезвычайно зависимы от внутренних корпоративных мессенджеров, оставляя там колоссальные объемы личной информации, которая теперь становится товаром.

«Я считаю, что проблемы с конфиденциальностью здесь достаточно существенные», — отметил основатель Центра ИИ и цифровой политики Марк Ротеберг.

Специалисты по безопасности также подвергают сомнению надежность систем анонимизации, которые используют посредники перед перепродажей архивов. По их словам, если сокрытие имен выполнено некорректно, разработчики смогут идентифицировать действия конкретных людей, что в будущем может привести к опасным утечкам частных данных непосредственно в ответах самих нейросетей.

"Хетафе" — "Барселона" / © Associated Press Боль в животе / © Credits Андрей Лунин / © Associated Press Дрон влетел в окно квартиры в Днепре / © Борис Филатов /Facebook