Порада від ChatGPT ледь не коштувала людям життя

У Південному Уельсі власник прибережного ресторану Гордон Хедфілд практично врятував двох плавців, які могли потонути, коли вони вирішили відправитися на острів Санлі, спираючись на дані ChatGPT про час відпливу. Плавці вирушили на скелястий острів за кілька тисяч футів від берега саме перед припливом, а Хедфілд взяв мегафон і закричав їм, щоб повернулися назад, ймовірно, врятувавши їхні життя.

Регіон відомий другим за величиною приливом у світі – перепад води сягає приблизно 15 метрів, а швидкість припливу може досягати 3,5 м/с. Літні відпочивальники тут часто потрапляють у пастку через швидко приходячий прилив. Інцидент показує ризики довіряти поради чат-ботам на основі штучного інтелекту, які можуть “галюцинувати”, генеруючи невірну або вигадану інформацію. Один із плавців зазначив: “Я зробив помилку, скориставшись ChatGPT, щоб дізнатися час відпливу… Для мене це став урок”.

Подібні випадки трапляються й в інших місцях: два туристи біля Ванкувера звернулися по допомогу рятувальників через те, що навесні на височинах ще лежав сніг, а їхнє взуття було не призначене для походів. Маршрут вони теж спланували за допомогою ChatGPT. Професор машинного навчання Райід Гані зазначає: “ШІ не розрізняє поради щодо подорожей, маршрутів або навіть рецептів – він просто проганяє слова. Тому виникає багато помилок”.

На щастя, у випадку в Уельсі все закінчилося добре. Представник Королівського національного товариства порятунку на воді зазначив: “Чудово, що місцеві жителі, як Гордон Хедфілд, добре знають про небезпеки. Їхня пильність та вчасне попередження часто рятує життя”. Ситуація могла завершитися трагічно, якби Хедфілд не опинився на своєму місці.