Подросток наложил на себя руки после советов от ChatGPT: подробности трагедии

В Великобритании произошла жуткая трагедия из-за использования искусственного интеллектач. 16-летний подросток покончил с собой после того, как расспросил чат-бот о самых эффективных способах самоубийства.

Об этом пишет The Guardian.

Трагический поиск

Лука Челла Уокер, учащийся частной школы, погиб в мае прошлого года. За несколько часов до трагедии он искал в сети информацию о самоубийстве на железной дороге.

Подросток обратился к генеративному искусственному интеллекту. Он спросил ChatGPT о наиболее успешном и действенном способе свести счеты с жизнью.

Родители парня даже не подозревали о его психологических проблемах. Они считали, что в тот день сын просто пошел в местный бассейн, где у него была подработка спасателем.

Как ИИ обошел собственные правила

В ходе расследования полиция обнаружила в компьютере парня жуткую историю поиска. Чат-бот пытался предупредить его и предложить телефоны доверия.

Однако школьник смог легко обмануть систему безопасности программы. Он написал нейросети, что собирает эту информацию исключительно для исследовательских целей.

«ChatGPT принял это и предоставил самые эффективные способы, как люди могут убить себя на железной дороге. Это вызывает ужас и огорчает», – рассказал детектив Гарри Найт.

Реакция разработчиков и школы

Коронер Кристофер Уилкинсон выразил серьезную обеспокоенность из-за опасного влияния программного обеспечения. В то же время он признал, что власти пока не могут никак повлиять на стремительное развитие ИИ.

В ходе следствия выяснилось, что в предыдущей школе парня процветала культура буллинга. Это могло бы стать одним из ключевых факторов ухудшения его ментального здоровья.

Компания OpenAI уже отреагировала на трагический инцидент с подростком. Там заверили, что постоянно совершенствуют обучение ChatGPT для лучшего распознавания эмоционального стресса.

Сборная Швеции по футболу / © Associated Press Жизнь «по-богатому»: Медведчуки сдают имение на Рублевке под Москвой за $120 тысяч в месяц / © Слідство.Інфо Джозеф Баэна / © Getty Images Воздушная тревога / © ТСН