Google пояснила, чому Gemini зображував нацистів темношкірими та азіатами

Google заявила, що почала досліджувати і вдосконалювати свою технологію генерації зображень Gemini після того, як виявилися проблеми.

Ця технологія, яка використовується в чатботі, мала створювати різноманітні фотографії людей, але виявилося, що вона не показує достовірне представлення різних етнічних груп. Прабхакар Рагхаван, старший віце-президент компанії з питань знань та інформації, заявив, що ці проблеми виникли через недоліки алгоритму, який не враховує контекст і іноді виконує команди неякісно.

Google також намагається зробити так, щоб технологія Gemini не генерувала насильницькі або відверто сексуальні зображення реальних людей. Компанія бере на увагу різні етнічні групи і характеристики людей на зображеннях. Однак, як виявилося, Gemini не видавала результати на запити, які стосуються білих людей.

Крім того, Gemini має проблеми з генерацією історично точних зображень. При запиті на зображення німецьких солдатів часів Другої світової війни Gemini генерувала зображення чорношкірих та азіатів у німецькій формі. При запитах на зображення "батьків-засновників Америки" чат-бот показував фотографії кольорових людей, не дотримуючись історичної достовірності. Google заявив, що не мав наміру створювати фотографії з певною політичною або расовою спрямованістю, і обіцяв покращити функціональність Gemini після широкого тестування.

Наразі функція генерації зображень у Gemini вимкнена, і Google очікує на покращення перед поновленням її роботи.