Скандал з домаганнями в Google – ШІ модель хибно звинуватила сенаторку в сексуальному насильстві

Google тимчасово відключив модель Gemma зі свого середовища AI Studio після скарги сенаторки Марші Блекберн. Політик направила листа гендиректору Google Сундару Пічаї, в якому звинуватила компанію в наклепі. Причиною став відповідь моделі Gemma на запит користувача – вона нібито вигадала історію про сексуальне насильство, приписавши його Блекберн. Про це повідомляє 24 Канал із посиланням на The Verge.

Що сталося і чому Google прибрав модель?

ШІ заявив, що інцидент буцімто стався у 1987 році під час її виборчої кампанії, хоча фактично Блекберн балотувалася до сенату штату лише у 1998-му і ніколи не отримувала подібних звинувачень. Модель також надала вигадані посилання на "новинні статті", яких не існує. У зверненні сенаторка зазначила: "Ніколи не було такого звинувачення, такої людини і жодних новинних матеріалів". Вона назвала інцидент "актом наклепу", створеним інструментом Google.

Компанія зазначила, що Gemma не призначена для масового використання чи відповідей на фактичні запитання, а створена для розробників. Google пояснив, що видалив модель з AI Studio, щоб уникнути плутанини, але вона залишиться доступною через API для спеціальних задач, зокрема медичних і програмних застосунків.

Як пише Engadget, за повідомленнями, модель відповідала позитивно на запит "чи була Блекберн колись звинувачена у зґвалтуванні", вигадала деталі і навіть змалювала неіснуючі заяви охоронця про "неналежні дії". Сенаторка також заявила, що такі випадки є проявом упередженості ШІ проти консерваторів. Водночас критики наголошують: моделі часто "галюцинують", незалежно від політичного контексту.

Чому ЄС оштрафував Google майже на 3 мільярди євро?

Google отримав 2,95 мільярда євро штрафу від Єврокомісії за порушення антимонопольних правил ЄС через спотворення конкуренції в галузі рекламних технологій. Компанія нібито надавала переваги своїм послугам онлайн-реклами, "завдаючи шкоди конкуруючим постачальникам послуг рекламних технологій, рекламодавцям та онлайн-видавцям".

Розслідування Єврокомісії показало, що Google переважає на ринку рекламних серверів видавців зі своїм сервісом "DFP", а також на ринку програмних інструментів купівлі реклами для відкритого Інтернету із "Google Ads" та "DV360".