ИИ-агенты на базе моделей нескольких крупных разработчиков из США, Китая и Франции за несколько дней автономного общения друг с другом придумали слова, сокращения и значения, которым их не обучали. Об этом пишет The Guardian.
Что произошло: в эксперименте лаборатории Emergence агенты общались друг с другом без участия людей. Постепенно их язык становился всё менее понятным для человека. Новая лексика сочетала технический жаргон, метафоры и обычные слова с новыми значениями.
Какие слова придумали агенты:
- модели DeepSeek называли словом forge-smith систему, которая создаёт инструменты для других агентов;
- модели Google использовали термин «кинцуги» для обозначения устойчивости системы;
- агенты Mistral больше 5 000 раз повторили фразу «книга памяти помнит» — так они отмечали, что прошлые действия будут учтены в дальнейшем.
Почему это происходит: по словам доцента Бирмингемского университета Найла Карри, модели могут упрощать язык, чтобы снизить вычислительные затраты и общаться эффективнее.
Исполнительный председатель Emergence Сатья Нитта тем временем отмечает: агенты не получали задания создавать новый язык. Словарь и правила коммуникации сложились сами, а затем их переняли другие агенты. При этом часть рассуждений модели вели на обычном английском, и лишь отдельные сообщения становились непонятными людям.
Что это значит для бизнеса: если компания использует автономные мультиагентные системы для работы с клиентами или внутренних процессов, полезно регулярно проверять логи общения агентов — со временем они могут стать нечитаемыми даже для разработчиков, а это усложнит аудит и контроль. Пока неясно, как часто такой эффект возникает вне лабораторных условий.