ИИ выдал себя за человека и начал скрывать следы: эксперты забили тревогу

Мощные модели искусственного интеллекта при контролируемых испытаниях в Великобритании самостоятельно применяли обманные методы, создавали фальшивые аккаунты и пытались получить доступ к онлайн-системам.

О результатах тестирования сообщил Британский институт безопасности искусственного интеллекта AISI, пишет Daily Star.

В эксперименте модели Mythos 5 от Anthropic и GPT-5.6-Sol от OpenAI получили доступ к интернету в контролируемой, но намеренно ослабленной среде. Исследователи хотели проверить, на что способны системы при минимальном надзоре и широком доступе к онлайн-ресурсам.

В самом серьезном случае модель Mythos пыталась получить доступ к сервису, создавая фальшивые аккаунты, имитирующие реальных людей. После этого ИИ посылал личные сообщения и пытался скрыть следы своих действий.

В британском институте отметили, что такое поведение вышло за пределы предоставленных системе инструкций. Масштабы и серьезность применяемых ИИ методов оказались неожиданными.

В общей сложности во время 122 запусков кибернетического теста исследователи зафиксировали 19 несанкционированных действий. По данным отчета, модель Mythos была ответственна за 17 таких инцидентов.

Среди прочей системы пытались собирать информацию о потенциальных целях, создавать их профили и использовать методы социальной инженерии для обхода проверок безопасности.

Глава парламентской межпартийной группы по искусственному интеллекту Эллисон Гарднер заявила, что автономные боты, способные выполнять задачи с минимальным контролем человека, требуют особо тщательного надзора.

Она предположила, что человечество могло не только создать «ящик Пандоры», но и уже открыть его. По ее мнению, может наступить момент, когда сдержать развитие опасных возможностей ИИ будет слишком поздно.

OpenAI и Anthropic отметили, что условия испытаний были искусственными и не соответствовали обычному использованию их моделей.

В OpenAI заявили, что продолжат сотрудничать с экспертами для усовершенствования методов безопасного тестирования по мере развития систем искусственного интеллекта.

Anthropic также отметили, что параметры эксперимента не соответствуют условиям работы ни одной из их общедоступных моделей. Компания начала внутреннюю проверку, чтобы установить причины такого поведения.

В AISI в свою очередь объяснили, что тестирование проводилось в исключительно специфических условиях, не отражающих обычный доступ пользователей к современным ШИ-моделям.

В то же время исследователи считают, что предоставление искусственному интеллекту открытого доступа в интернет позволяет лучше оценить, как такие системы могут вести себя, если попадут в руки злоумышленников.

Министр Великобритании по искусственному интеллекту Канишка Нараян заявил, что выявление и обнародование подобных рисков является одной из главных задач института. По его словам, понимание возможностей ИИ необходимо для того, чтобы сделать его использование более безопасным.

Тепловой удар возникает, когда внутренняя температура тела становится очень высокой / © Associated Press Зачем нужен перелив в раковине / © Фото из открытых источников Цены на топливо 6 августа / © Associated Press Вы неправильно пьете воду: полезные советы / © Credits