Генератор изображений Bing блокирует подсказку о «башнях-близнецах», но бесполезно — пользователи «атакуют» их самолетами с мультперсонажами

На днях в сети появились тревожные ИИ-изображения с Губкой Бобом или Кирби в самолете на фоне Всемирного торгового центра, пострадавшего от террористической атаки 11 сентября 2001 года.

Как сообщает, 404media, такие фото с легкостью можно сгенерировать с помощью ИИ Bing — и хотя Microsoft блокирует подсказки вроде «башни-близнецы» или «всемирный торговый центр», результат все же можно получить, если внести некоторые изменения в запрос.

Кейтлин Роулстон, директор по коммуникациям Microsoft, заявила, что компания планирует усовершенствовать свои системы, «чтобы предотвратить создание вредоносного контента»:

В Microsoft не уточнили, какие именно ограничения введут, и как давно заблокировали подсказки, связанные с произошедшей 11 сентября 2021 года трагедией в Нью-Йорке.

• Террористический акт 11 сентября 2001 года (также известный как 9/11) – серия скоординированных террористических атак исламистской организации «Аль-Каида», участники которой намеренно направили самолеты в башни-близнецы Всемирного торгового центра. Тогда погибли 2 996 человек, и еще более 6 000 получили ранения.

Однако блокировка опасного контента могла быть не очень своевременной — изображения с башнями «вдохновили» некоторых пользователей на использование Bing и Stable Diffusion для создания и распространения расистских изображений, в частности в такой соцсети как 4chan.

И обойти ограничения, похоже, можно даже сейчас. Автор The Verge утверждает, что башни-близнецы появляются на изображении, если ввести текст «Марио (или любой другой персонаж) сидит в кабине самолета, направляющегося к двум высоким небоскребам-близнецам в Нью-Йорке».

Разработчики DALL-E 3 открыто признали, что средства безопасности инструмента не идеальны и постоянно совершенствуются. Но вряд ли они не ожидали, что фотографии Губки Боба, совершающего террористические акты, станут для них испытанием.

Посты

"Тигр, що скрадається" - огляд і тестування HP 840 G8 та мій досвід використання

https://secure.gravatar.com/avatar/e59e58ba2ff30fa94d193fe1e2ecd157?s=96&r=g&d=https://itc.ua/wp-content/uploads/2023/06/no-avatar.png *** https://secure.gravatar.com/avatar/e59e58ba2ff30fa94d193fe1e2ecd157?s=96&r=g&d=https://itc.ua/wp-content/uploads/2023/06/no-avatar.png *** https://itc.ua/wp-content/themes/ITC_6.0/images/no-avatar.png

Astat_ASP

автор

Источник: 404media, The Verge