ИИ потерял доверие: нейросети научились обманывать экспертов

Массовое использование генеративного искусственного интеллекта привело к тому, что поддельные визуальные материалы стали проникать в публичное пространство и серьезные академические издания. Поскольку любой пользователь может в считанные секунды создать реалистичный снимок по обычному текстовому запросу, традиционные методы визуального подтверждения научных открытий стремительно теряют свою надежность.

Об этом пишет The Conversation.

Фейки в авторитетных журналах

Инструменты искусственного интеллекта активно изменяют способы создания, распространения и публикации научных визуализаций. Исследователи все чаще используют их для создания иллюстраций, создания синтетических данных или редактирования лабораторных снимков. Однако, такие общедоступные технологии полностью стирают границу между полезным улучшением фотографии и откровенной фабрикацией фактов.

В апреле 2026 года авторитетный медицинский журнал New England Journal of Medicine был вынужден отозвать статью после обнаружения сгенерированного клинического изображения. Еще раньше подобная судьба постигла две другие научные публикации, содержащие биологически невозможные структуры. Разработчики систем обнаружения подделок пытаются бороться с этой проблемой, но их детекторы будут всегда отставать от новых технологий генерации.

Кризис доверия и пути решения

Десятилетиями научные снимки с микроскопов или космических аппаратов вызывали безоговорочное доверие общества, ведь их создание требовало дорогостоящего оборудования и уникальной экспертизы. Сегодня же, когда визуальное качество перестало быть надежным показателем правдивости, люди начинают исключать подлинные доказательства и верить только тем фейкам, которые подтверждают их собственные предубеждения. Это опасное явление чревато тотальным кризисом доверия ко всему научному сообществу.

«Если аудитория вообще перестанет доверять визуальным доказательствам, наука потеряет один из самых мощных инструментов для общественной коммуникации», — отмечают исследователи.

Чтобы остановить распространение дезинформации, ученые призывают относиться к происхождению изображений так же серьезно, как к происхождению исследовательских данных. Авторы должны честно и прозрачно указывать, использовался ли искусственный интеллект для создания или модификации конкретного материала. Прозрачность и соблюдение профессиональных норм является единственным способом сохранить авторитетность визуальных доказательств в эпоху нейросетей.

Раковина / © pexels.com Кремль набросился на США за изменение риторики по войне России против Украины, но это не означает, что Трамп теперь на стороне Киева. / © ТСН.ua Деньги / © Национальный банк Украины Как освободить память на Samsung / © pexels.com