В Британии предупредили: ИИ может стать инструментом террористов и пропаганды

В Британии предупреждают, что искусственный интеллект – "волна", которая может усилить террористическую пропаганду и помочь террористам готовиться к атакам.

Об этом предупредил во вторник, 15 июля, советник британского правительства по вопросам терроризма Джонатан Хол, цитирует Politico, пишет "Европейская правда".

В своем ежегодном отчете Хол предупредил об "ужасающей" угрозе со стороны "передовых технологий" после года, посвященного изучению этого вопроса.

Он отметил, что генеративный искусственный интеллект, который может создавать новый контент, такой как текст, изображения, аудио и видео, на основе того, что он научился из доступных ему данных, "будет использоваться террористами", и отметил, что Великобритания исторически слишком медленно реагировала на угрозы, которые породил интернет.

В отчете указывается, что большинство технологических компаний "не имеют достаточных оснований объяснять внутреннюю работу своих моделей и усилия, которые они прилагают для благополучия людей, поскольку они соревнуются за долю рынка".

Также в отчете содержится предупреждение о том, что уже существует отрасль, которая занимается "взломом" этических ограничений, установленных технологическими компаниями для предотвращения создания чат-ботами террористического контента.

Чат-боты, по предупреждению Хола, могут создать "замкнутый круг террористической радикализации" для "одиноких и несчастных лиц", подверженных соблазну реального терроризма, и даже могут быть использованы для отбора потенциальных террористов перед тем, как передать их "выше по цепочке для радикализации от человека к человеку".

В отчете Хола отмечается, что Великобритания была вовлечена в единственный известный случай планирования теракта с помощью чат-бота.

Речь идет об инциденте, когда Джасвант Синг Чайл вместе со своей "девушкой-искусственным интеллектом" запланировал покушение на убийство ныне покойной королевы с помощью арбалета.

Хол отметил, что хотя ему не известно ни об одном современном "террористическом чат-боте", интернет "выявил целый ряд уязвимых одиноких людей, включая детей, которые могут оказаться особенно уязвимыми к радикализации в чате один на один".

По его словам, Gen AI "в принципе" способен предлагать методы обхода систем безопасности и предоставлять "практические советы по использованию или адаптации оружия или структуры террористических ячеек", что особенно привлекает "одиноких нападающих".

Хол предупредил, что пропаганда, созданная искусственным интеллектом, может быть адаптирована к "местным нарративам, таким как борьба Великобритании с бандами, вербующими детей".

По его словам, эти инструменты могут позволить "армиям ботов" заполонить форумы и социальные сети, чтобы "сделать тему динамичной и актуальной".

Недавно СМИ сообщали, что неизвестный злоумышленник выдавал себя за государственного секретаря США Марко Рубио и писал нескольким американским чиновникам и министрам иностранных дел других государств.

После этого Рубио заявил, что ожидает, что другие потенциальные мошенники будут использовать искусственный интеллект, чтобы выдавать себя за него.