Мужчину арестовали после разговора с искусственным интеллектом: что он рассказал чату

В австралийском Сиднее полиция арестовала 29-летнего Дэвида Лана Текрея после его общения с чатом Claude, разработанным компанией Anthropic. По данным правоохранителей, мужчина якобы рассказал искусственному интеллекту о намерении устроить стрельбу в детском заведении недалеко от своего дома.

Об этом сообщают Futurism и The Sydney Morning Herald.

Мужчину задержали 18 октября после того, как информация о его разговорах с чатом привлекла внимание Интерпола.

По материалам полиции, представленным в суде, Текрей использовал голосовой режим Claude, позволяющий общаться с искусственным интеллектом устно.

Во время одного из разговоров он якобы заявил, что собирается отправиться в местный торговый центр Westfield и устроить стрельбу в расположенном поблизости детском заведении.

Как разговор с искусственным интеллектом привел к аресту

По информации журналистов, подозрительные высказывания мужчины попали во внимание Интерполу, после чего о возможной угрозе стало известно австралийским правоохранителям.

В то же время неизвестно, как именно информацию из разговора передали международной правоохранительной организации и инициировала ли сообщение непосредственно компания Anthropic.

После инцидента учетную запись мужчины в Claude заблокировали.

18 октября Текрея задержали, а на следующий день его рассмотрел местный суд в Сазерленде.

Мужчине выдвинули обвинения в использовании средств электронной связи для угроз, преследований или оскорблений.

Прокуроры настаивали на содержании обвиняемого под стражей, заявив, что его увольнение может создать серьезную угрозу общественной безопасности.

Что рассказал адвокат задержанного

Защитник мужа Данило Райкович возразил, что его клиент действительно собирался совершить нападение.

По словам адвоката, Текрей находился в состоянии сильного стресса из-за проблем со здоровьем.

Сначала мужчина обратился к чату, чтобы получить информацию о лечении ушной инфекции. Однако впоследствии разговор перерос в эмоциональные высказывания.

Адвокат утверждал, что угрозы были лишь проявлением раздражения и не отражали реальных намерений клиента.

Он также подчеркнул, что подозреваемый не имел судимостей, а разговор с искусственным интеллектом считал частным.

По решению суда мужчина был оставлен под стражей для проведения психиатрического обследования. После этого суд должен вернуться к рассмотрению дела.

Могут ли разговоры с чатами попасть в полицию

История австралийца привлекла внимание к вопросу о конфиденциальности общения с искусственным интеллектом.

Claude принадлежит компании Anthropic, разрабатывающей механизмы обнаружения опасного использования своих моделей.

В частности, чатбот научен отказывать в ответах на запросы, связанные с планированием насилия или причинением вреда людям.

Политика компании также допускает передачу информации правоохранительным органам при определенных чрезвычайных обстоятельствах, в частности для предотвращения серьезной угрозы жизни или здоровью людей.

Однако в случае задержания Текрея точный механизм обнаружения и передачи информации остается неизвестным.

Эксперты отмечают, что общение с чатами не всегда имеет такой же уровень конфиденциальности, как личные записи, которые хранятся только на пользовательском устройстве.

В то же время высказанные в ходе разговора угрозы еще не доказывают намерения совершить преступление. Окончательную правовую оценку действиям задержанного должен предоставить суд.