ШІ Amazon вихваляє Mein Kampf як «витвір мистецтва», а Google це підхоплює

ШІ від Amazon і Google потрапили у пастку, коли назвали Mein Kampf «справжнім витвором мистецтва».

Ті, хто думали, що штучний інтелект уже досить розумний, щоб не потрапляти на очевидні «гачки», то ось вам новий приклад. Користувачі помітили, що Google показував при пошуку позитивні відгуки Mein Kampf, а саме згенерований від Amazon. 

Проблема в тому, що ШІ намагався узагальнити загальні рецензії читачів, тому повністю втратив контекст. У відгуках на книгу здебільшого казали про якість друку, легкість читання чи історичну значущість — а не її ідейний зміст. Через те, що ШІ не розбирається в нюансах, він видав загальний підсумок: «витвір мистецтва».

Google зробив ситуацію ще цікавішою, коли додав цей фрагмент у свою функцію AI Overviews (яка покликана швидко видавати «корисні» відповіді на запити). У результаті пошуку Google буквально рекламував Mein Kampf як книгу з «розумними висловлюваннями».

Швидше за все, ШІ від Amazon у відгуках вирвав фрази з контексту. Це і видало користувачу типовий для ШІ пустопорожній огляд, в якому «налито багато води». Якби людина прочитала відгуки окремо, то зрозуміла, що рецензент не обов’язково підтримує ідеї книги. А от ШІ все це зібрав і вивів підсумок у стилі «геніальне читво».

Коли журналісти звернулися до Google за коментарем, компанія швидко вимкнула ШІ-відгук для цього пошуку. Amazon ситуацію не коментує. Випадок гарно нагадує, що ШІ не розуміє контексту і може давати відверто неоднозначні відповіді. Штучний інтелект не може замінити критичне мислення, тому довіряти будь-якій його відповіді безглуздо.

Також Amazon у 2020 році на деякий час заборонила книгу на своїх платформах, але потім повернула її у продаж. При цьому продажі здійснюються без пояснення контексту, і це дає поле для дивних ситуацій із відгуками.

Приклад з Mein Kampf не став першим «проколом» Google AI Overviews. Раніше функція радила людям їсти клей, ковтати по каменю в день і використовувати секс-іграшки для заспокоєння дітей. 

Джерело: 404 Media