У США 19-річний студент помер після порад ChatGPT щодо вживання наркотиків

У США 19-річний студент-психолог Каліфорнійського університету Мерсед, Сем Нельсон, помер від передозування після того, як протягом тривалого часу звертався до чат-бота ChatGPT за порадами щодо вживання наркотичних і заспокійливих речовин.

Нельсон консультувався з чат-ботом щодо поєднання препарату Xanax та рослинного екстракту кратому, який має опіоїдні властивості та викликає залежність.

Транскрипти його розмов за 18 місяців нібито свідчать, що ChatGPT надавав детальні рекомендації щодо дозування та запевняв у безпечності таких дій.

У день смерті студент знову звертався до чат-бота із запитанням, чи може Xanax зменшити нудоту після вживання кратому. Після цього мати Нельсона знайшла сина мертвим у спальні.

В OpenAI заявили, що ситуація є трагічною, висловили співчуття родині загиблого та наголосили, що їхні моделі мають надавати обережні відповіді, відмовляти у шкідливих запитах і заохочувати людей звертатися по реальну допомогу.