Исследователи дали тревожный сигнал: слежка за людьми стала нормой и ставит под угрозу приватность

Технологии компьютерного зрения - направления ИИ, который позволяет компьютерам "видеть" и интерпретировать визуальную информацию, вызвали резкий рост цифровой слежки за людьми во всем мире, передает IflScience. От наблюдения за заключенными и военными объектами до распознавания лиц в коммерческих пространствах. Об этом говорится в масштабном исследовании, опубликованном в журнале Nature, которое охватывает более четырех десятилетий развития отрасли.

Команда исследователей из ведущих университетов - Стэнфордского, Карнеги-Меллона, Вашингтонского и Института искусственного интеллекта Аллена, проанализировала более 40 тысяч научных публикаций, патентов и технических описаний. По их выводам, количество Computer Vision (CV), связанных с системами удаленного слежения, выросло в пять раз с 1980-х годов.

Исследователи указывают, что современные системы наблюдения работают на двух разных уровнях. На "высшем уровне" - путем перехвата трафика через маршрутизаторы, подводные кабели и тому подобное. И на "низшем уровне" - непосредственно через платформы Google, Facebook или Yahoo. Вместо перехвата трафика, власти обычно получают прямой доступ к данным сервисов в режиме реального времени - преимущественно с согласия компаний и после предъявления ордера. Однако новый источник угрозы возник со стороны CV, анализирующего фото и видео для идентификации объектов, движений, а также, потенциально - эмоций, чтобы в дальнейшем понимать мир подобно людям.

Авторы исследования отмечают, что язык описания CV-систем претерпел существенные изменения: если в 1990-х годах он был техническим, то в 2010-х стал более абстрактным, эмоциональным и запутанным. В частности, слово "объект" стало стандартным заменителем "человека". Таким образом наблюдение все больше маскируется и отвлекает внимание людей, за которыми наблюдают.

Среди организаций, которые наиболее активно повлияли на развитие систем CV, указаны Microsoft, Университет Карнеги-Меллона, Массачусетский технологический институт, Университет Иллинойса в Урбана-Шампейн и Китайский университет Гонконга. По объемам применения слежки лидируют США, Китай и Великобритания.

"Наиболее тревожными последствиями этого является то, что все труднее отказаться, отключиться или "просто быть", а технологии и приложения, возникающие в результате этого наблюдения, часто используются для доступа, монетизации, принуждения и контроля над отдельными лицами и сообществами на обочине общества", - заявил доктор Абеба Бирхане, директор Лаборатории подотчетности ИИ в Trinity College Dublin.

Бирхане также призывает научное сообщество отказываться от участия в проектах, имеющих потенциал для нарушения прав человека. Отмечает, что следует сосредоточиться на изучении этических аспектов и информировании общественности.

Новые генеративные модели ИИ научились имитировать сердцебиение человека в дипфейках. Ранее это считалось ключевым признаком для их разоблачения. По словам профессора Петер Айзерта из Берлинского университета Гумбольдта, это существенно усложняет распознавание подделок, которые могут быть использованы для манипуляций, дезинформации или наблюдения. В то же время эксперты отмечают, что дипфейки до сих пор не способны воспроизвести сложные вариации кровотока, что позволяет разрабатывать новые типы детекторов.