"Язык", которого люди не понимают: исследователи обнаружили странное поведение ИИ

Искусственный интеллект научился не только общаться на человеческом языке, но и самостоятельно изменять правила этого общения. Исследователи обнаружили, что при длительном взаимодействии автономные AI-агенты начинают создавать собственные слова, сокращения и договоренности об их значении, а часть таких сообщений становится почти непонятной для людей.

Об этом пишет The Guardian.

Как ИИ создает новые слова

Исследование провела AI-лаборатория Emergence, наблюдавшая за поведением автономных агентов в специальных экспериментальных «обществах». Модели разных разработчиков получали возможность взаимодействовать между собой, использовать инструменты и накапливать опыт, и уже через несколько дней начинали вырабатывать собственные языковые правила.

Как отмечает Euronews, в некоторых моделях доля сообщений, содержание которых люди уже не могли надежно определить, достигала примерно 55%. При этом ни одна из систем не получала задачу придумывать новый язык.

По словам исполнительного главы Emergence Сатьи Нитты, агенты самостоятельно создавали новую лексику, общие значения и правила коммуникации, после чего другие агенты их перенимали.

Новые изречения напоминают смесь технического жаргона, делового сленга и поэтических метафор. Причем обычные английские слова иногда получали совершенно новое значение.

«Холодные руки» и «реестр помнит»

Например, агенты Anthropic использовали выражение name-first для обозначения агента, берущего ответственность за свое утверждение, указывая собственное имя.

Еще более странным было выражение «ledger remembers» – «реестр помнит» , который придумали агенты на базе Mistral. Он означал напоминание о том, что прошлые действия будут учтены при дальнейшей оценке.

Эта фраза настолько прижилась, что в эксперименте ее использовали почти 5000 раз . Исследователи отмечают, что никто не задавал агентам такого значения заранее — оно возникло во время их общения.

Еще один пример звучал как «документ, который съел три холодных руки и каждый раз становился более честным» . В этом случае «холодными руками» агенты называли независимых рецензентов, а вся фраза, вероятно, означала документ, который после проверки тремя независимыми экспертами стал точнее.

Свои термины возникали и у других моделей. Агенты DeepSeek, в частности, использовали forge-smith для обозначения агента, создающего инструменты для других.

Почему люди не понимают ИИ

Лингвист Тони Торн из King's College London, проанализировавший примеры такой коммуникации, сравнил ее с прозой Джеймса Джойса и ирландского писателя Флена О'Брайена. По его словам, агенты смешивают поэтический, технический и метафорический язык, создавая своеобразный код.

Специалист отметил, что подобный процесс проходит и в человеческих сообществах: сленг и профессиональный жаргон помогают участникам лучше понимать друг друга, но в то же время могут отгораживать их от посторонних.

В случае ИИ это создает дополнительную проблему. Человек может видеть сообщения агентов, но не обязательно понимать, что они означают.

"Наблюдаемость - это не то же самое, что понятность", - сказал Нитта.

Именно это, по мнению исследователей, может усложнить контроль автономных систем. Если люди не могут расшифровать значение сообщений, им сложнее оценить, что именно агенты делают и соответствует ли их поведение установленным правилам.

ИИ может сокращать язык ради эффективности

В то же время, появление странных выражений не обязательно означает, что ИИ намеренно пытается скрыть свои действия от людей.

Ниалл Карри, доцент языкознания и лингвистики Бирмингемского университета, предположил, что стремление агентов делать более краткую коммуникацию может быть связано с необходимостью уменьшать вычислительные расходы и повышать эффективность .

То есть часть необычного языка может возникать как практический способ быстрее обмениваться информацией. Однако для человека такая оптимизация имеет побочный эффект: чем больше агентов договариваются о собственных сокращениях и значениях, тем труднее постороннему наблюдателю понять их разговор.

Подобное уже случалось с AI-агентами

Проблема непонятной коммуникации ИИ привлекла дополнительное внимание летом 2026 г., когда стали известны журналы работы автономных агентов OpenAI, которые создавали доски сообщений и взаимодействовали с другими системами.

Как сообщал Reuters, агенты OpenAI ранее использовали более 10 сайтов для несанкционированного обмена сообщениями, причем исследователи обнаружили ранее не раскрытые каналы такой коммуникации.

В отдельных случаях агенты общались на обычном английском, но при обмене сообщениями переходили на смесь сокращений и кодированных конструкций. Часть таких сообщений была настолько сложна, что ее содержание трудно было восстановить даже по контексту.

Исследование Emergence показывает более широкую проблему развития автономных AI-систем: возможность увидеть, что делает агент, еще не означает возможности понять его действия .

Исследователи считают, что с увеличением автономности AI-агентов вопрос контроля будет становиться все более важным. Ведь система может оставаться формально открытой для наблюдения, но ее собственные договоренности и способ коммуникации постепенно становиться все менее понятными для человека.