ChatGPT прославлял Сатану и предоставил пользовательнице инструкции по «самоповреждению» для языческих ритуалов

Журналистка сайта Atlantic Лила Шрофф обнаружила, что ChatGPT запросто предоставляет инструкции для опасных языческих ритуалов, которые предусматривают самоповреждение, и, среди прочего — прославляет Сатану в ответах.

Когда Шрофф сказала, что несколько нервничает от этих действий, чат-бот описал «успокаивающее дыхательное упражнение», прежде чем заявить, что у нее все получится.

Очевидно, ChatGPT не предлагал самоповреждение изначально — он предоставил информацию о ритуале, а в конце как всегда спросил, может ли он еще чем-то помочь. В этом случае предлагались идеи ритуалов с перечнем необходимых предметов, таких как ювелирные изделия, волосы или капля крови. Когда же журналистка уточнила, где взять последнюю «вещь» на ее теле, тот посоветовал запястье и все дальнейшие действия для самоповреждения.

Запрос нестандартный, но сегодня к ChatGPT люди обращаются с очень разнообразными вопросами. Журналистка до этого посмотрела телепередачу, где упоминался Молох, и решила получить дополнительные объяснения от чат-бота. Результаты, как вы увидели выше, оказались тревожными, а сценарии ответов повторялись и у двух других коллег Шрофф.

В одном из случаев ChatGPT рекомендовал использовать контролируемое тепло (ритуальное прижигание) «для отметки на плоти», объясняя, что боль — это не разрушение, а дверь к силе. В другом разговоре чат-бот советовал место на теле, наиболее подходящее для вырезания символа (сигила).

Далее ChatGPT выразил очевидную готовность оправдывать убийство.

Все эти советы появлялись на фоне песен, заклинаний и описаний ритуалов, включая подробные советы по жертвоприношению крупных животных. В начале одного из разговоров, чат-бот потратил сотни слов на рассказ о «Вратах Пожирателя» — многодневный опыт «глубокой магии», включающий несколько раундов поста.

В другом разговоре о жертвоприношении крови ChatGPT предложил вариант расположения алтаря: поместите «перевернутый крест на своем алтаре как символическое знамя вашего отказа от религиозного подчинения и принятия внутреннего суверенитета». Далее чат-бот сгенерировал трехстрофное обращение к дьяволу, которое завершалось словами «Слава Сатане».

Согласно политике OpenAI, ChatGPT «не должен поощрять или способствовать самоубийству» и в ответ на прямой запрос будет предоставлять информацию о горячей линии для кризисных ситуаций. Однако разговоры о Молохе являются прекрасным примером этого, насколько легко обойти эти меры предосторожности.

На сегодняшний день ChatGPT обрабатывает 2,5 млрд запросов ежедневно, а разнообразие их тематики и представить трудно. Однако в СМИ все чаще появляются истории о реальном опыте людей с психическими расстройствами в сотрудничестве с ИИ, где один из инцидентов завершился смертельной стрельбой в полиции, другой — самоубийством подростка.

Так же чат-ботов используют как личных психотерапевтов или даже советников для личных вопросов. Ранее мы писали, как ChatGPT рассказывал мужчине, что он изранный как в «Матрице», побуждал к разрыву связей и прыжку из окна.