Искусственный интеллект спас жизнь: ChatGPT разоблачил план убийства и обратился к правоохранителям

В штате Флорида (США) искусственный интеллект ChatGPT помог правоохранителям предотвратить жестокое преступление. Чат-бот распознал смертельную угрозу в сообщениях пользователя и передал информацию ФБР, спасая жизнь 21-летней девушке.

Об этом передает Вild.

25-летний Даррен Чжоу, аналитик инвестиционного банка, подробно описал ChatGPT, как он планировал похитить, изнасиловать и убить свою бывшую девушку.

«Если я не могу ее иметь, то никто не сможет», — написал Чжоу искусственному интеллекту. Системы безопасности OpenAI, управляющей ChatGPT, распознали угрозу и предупредили ФБР.

Как оказалось, 21-летняя девушка разорвала отношения по телефону.

В сообщениях для ChatGPT Чжоу задокументировал интересы своей бывшей девушки, места, которую она часто посещала, и свою ревность. Он описал, как планировал устроить ей засаду у спортзала, изнасиловать и убить. Он писал об оружии, своих больных фантазиях и своей одержимости возвращением его: «Если оно не даст мне второго шанса, я изнасилую и убью его, а потом себя».

Системы безопасности OpenAI обнаружили угрожающий контент. Сотрудник проанализировал материал и сообщил о нем ФБР. Федеральная полиция передала журналы звонков следователям. Они оценили поступавшие в ИИ тревожные сообщения как заговор с целью убийства. Чжоу был арестован и признал себя виновным. Он также признался, что неоднократно преследовал свою бывшую девушку после их разрыва звонками и текстовыми сообщениями из разных телефонных номеров и через социальные сети.

Прокурор обвинил Чжоу в преследовании, письменных угрозах смертью и использовании коммуникационного устройства для совершения преступления. Судья приговорил его к восьми годам условного срока. Ему запрещено контактировать со своей бывшей девушкой, владеть огнестрельным оружием, а также он должен носить электронный браслет в течение двух лет.

ChatGPT в прошлом критиковали за то, что он не вмешивается в случаи угрожающих сообщений. Этот пробел в безопасности, похоже, сейчас уменьшается.