Google тимчасово вилучила модель Gemma з AI Studio після звинувачень у наклепі

Компанія Google тимчасово вилучила модель Gemma зі своєї платфоми AI Studio після того, як сенаторка США Марша Блекберн звинуватила ШІ у поширенні неправдивих тверджень. Про це пише TechCrunch. 

У листі до гендиректора Google Сундара Пічаї сенаторка від штату Теннессі заявила, що під час тестування Gemma надала неправдиву інформацію, ніби у 1987 році її звинувачували у сексуальних домаганнях. Модель також навела вигадані посилання на новинні матеріали, які вели на неіснуючі сторінки.

За словами Блекберн, таких подій ніколи не було. На її думку, відповідь моделі є «актом наклепу, створеним і поширеним ШІ, що належить Google». Сенаторка також згадала позов активіста Роббі Старбака, який звинуватив компанію у поширенні наклепницьких заяв про нібито його причетність до сексуальних злочинів.

Невдовзі Google у своєму дописі в іксі заявила, що Gemma не була створена для споживчого використання, а натомість призначалася як інструмент для розробників.

Компанія тимчасово вилучила модель з AI Studio, але залишила доступ до неї через API.

Нагадаємо, у вересні дослідники аналітичної компанії NewsGuard зафіксували значне зростання випадків поширення чатботами штучного інтелекту неправдивих тверджень. Таке зростання пов’язане зі зміною підходів до навчання моделей. Якщо раніше генеративні моделі відмовлялися відповідати на частину запитів або посилалися на обмеження відкритих даних, то тепер використовують результати пошуку в реальному часі.

Фото: Google Gemma