Новий чатбот Google Bard заявив, що навчався на конфіденційних даних із Gmail

Поки що чатбот доступний для деяких користувачів зі США та Великої Британії, а решта можуть приєднатися до списку очікування. У компанії підкреслюють, що Bard у його нинішньому вигляді – це лише експеримент, тому він може помилятись і "галюцинувати", видаючи недостовірну інформацію.

Помилився чи проговорився?

Дослідниця Кейт Кроуфорд з Microsoft Research випробовувала нову технологію і розповіла про цікаві результати бесіди з нейромережею. Коли Кроуфорд запитала Bard, на яких наборах даних він навчався, бот відповів, що його датасети було взято з різних джерел, зокрема з відкритих (Wikipedia, GitHub, Stack Overflow), а також із продуктів Google, зокрема з пошуку і Gmail.

Питань до всіх інших джерел немає, адже це відкриті платформи, де кожен може вільно черпати інформацію. Однак Gmail не має відкритих ресурсів. Це сервіс пошти, який надає індивідуальні електронні скриньки для отримання й надсилання листів. Якщо Bard отримав з нього якісь дані, отже це конфіденційні листування користувачів, які не повинні були покинути межі їхніх облікових записів.

У себе в Twitter Кроуфорд пише, що вона дуже сподівається, що це помилка, а інакше "Google переходить серйозні юридичні межі". Представники Google поспішили відповісти, що Bard являє собою лише ранній експеримент і, звісно, поки він може помилятися. У компанії підкреслили, що Bard не навчався на даних, отриманих із Gmail, і все це помилка бота.

Коли Кроуфорд запитала, чи можуть у компанії якось підтвердити, що це була лише "галюцинація" чатбота, і жодних даних Gmail не було включено в його навчальний процес, їй вже ніхто не відповів. На відміну від Ілона Маска, який вирішив прокоментувати тред своїм традиційним "lol".