Сколько AI-агентов — слишком много? Исследование NTT Research и Гарвардского университета раскрывает ключевые принципы использования агентного ИИ на предприятии

По мере того как организации быстро внедряют AI-агентов в обслуживание клиентов, разработку ПО, кибербезопасность, научные исследования и бизнес-операции, всё более важным становится вопрос: как правильно структурировать команды AI-агентов для достижения наилучших результатов?

Новое исследование доктора Хидэнори Танаки и Элизабет Павловой из Лаборатории физики искусственного интеллекта (PAI) NTT Research, выполненное в сотрудничестве с Центром наук о мозге Гарвардского университета, ставит под сомнение предположение, что простое добавление новых AI-агентов автоматически повышает производительность предприятия. Напротив, исследование показывает, что мультиагентные системы ИИ работают наиболее эффективно в пределах оптимального рабочего диапазона. За его пределами дополнительные AI-агенты могут порождать конкурирующие интерпретации одних и тех же данных, заставляя группы разделяться на лагеря вместо того, чтобы приходить к консенсусу, — в зависимости от задачи.

01Каков оптимальный размер организации агентного ИИ?

Исследование демонстрирует, что мультиагентные системы ИИ достигают оптимального рабочего диапазона. По мере взаимодействия AI-агентов коллективная производительность сначала улучшается. Однако после этой точки дополнительные AI-агенты могут затруднить эффективную коммуникацию в группах, достижение консенсуса и решение сложных задач.

Согласно исследованию, в одном из экспериментов, названном «Игра с флагом» (Flag Game), коллективная точность достигала пика примерно при 16 AI-агентах, после чего начинала снижаться. В этой игре каждый агент видит лишь небольшой, случайно назначенный фрагмент скрытого флага, и группа должна общаться, чтобы выяснить, какой стране принадлежит этот флаг.

Как и в случае с «семью поварами на кухне», простое добавление новых AI-агентов не гарантирует лучших результатов. За пределами оптимального рабочего диапазона коммуникация усложняется, возникают конкурирующие точки зрения, и коллективная производительность может снижаться. Для руководителей предприятий задача заключается не в создании более крупных организаций ИИ, а в проектировании более эффективных.

02Как понять поведение мультиагентного ИИ?

Интерактивная игра даёт практическое понимание эффективности AI-агентов. В эксперименте «Игра с флагом» каждый AI-агент получает только часть доступной информации и должен общаться с другими агентами, чтобы определить правильный ответ. Эксперимент иллюстрирует, как AI-агенты объединяют распределённые знания, строят консенсус и решают сложные задачи, а также как проблемы коммуникации возникают по мере роста организаций ИИ.

Вместо изучения отдельных моделей ИИ в изоляции исследование применяет принципы физики, математики и машинного обучения для понимания того, как популяции AI-агентов организуют знания, общаются и развивают коллективный интеллект. Эта работа продвигает более широкую миссию NTT Research — понять фундаментальные принципы, управляющие интеллектом, и создать более надёжные и масштабируемые системы ИИ.

«По мере того как организации начинают развёртывать сотни или даже тысячи AI-агентов, одним из важнейших вопросов становится то, как из их взаимодействий возникает коллективный интеллект, — говорит доктор Хидэнори Танака, руководитель группы Лаборатории физики искусственного интеллекта (PAI) NTT Research и Программы физики интеллекта в Центре наук о мозге Гарвардского университета. — Наше исследование показывает, что простое добавление новых AI-агентов не обязательно улучшает производительность — точно так же, как найм большего количества людей не делает компанию автоматически более эффективной. Коммуникация усложняется, и группы могут разделяться на конкурирующие лагеря. Организациям также необходимо учитывать, как AI-агенты общаются, как они структурированы и как люди проектируют и направляют эти системы для достижения наилучших результатов. Понимание этой социальной динамики будет становиться всё более важным по мере того, как предприятия будут строить более крупные человеко-машинные организации».

03Как предприятиям структурировать организации AI-агентов?

Ключевые выводы исследования об агентном ИИ и производительности предприятия включают:

• Мультиагентные системы ИИ работают наиболее эффективно в пределах оптимального рабочего диапазона. Добавление новых AI-агентов не обязательно повышает коллективную производительность и может снизить точность для некоторых задач.
• Организационный дизайн важен не меньше, чем масштаб. То, как AI-агенты общаются, обмениваются информацией и сотрудничают, существенно влияет на коллективную производительность.
• Разнообразные модели ИИ превосходят однородные команды. Исследователи обнаружили, что команды, объединяющие модели ИИ с взаимодополняющими сильными сторонами, дают лучшие результаты, чем команды, состоящие из одной модели ИИ, что позволяет предположить, что разнообразие может улучшить коллективный интеллект.
• Человеческое руководство формирует эффективные организации ИИ. Более качественное руководство со стороны людей улучшает результаты. Чёткие инструкции и коммуникационные стратегии оказали большее влияние на коллективную производительность, чем простое увеличение числа AI-агентов.

По мере того как предприятия внедряют мультиагентные системы ИИ, им необходимо определять, как структурированы AI-агенты, как они сотрудничают и где человеческое суждение должно направлять принятие решений агентным ИИ. Полученные данные свидетельствуют о том, что организациям следует меньше сосредотачиваться на развёртывании максимально возможной рабочей силы ИИ и больше — на проектировании эффективных организаций ИИ, которые балансируют масштаб, коммуникацию, организационную структуру и разнообразие моделей. Успех зависит не просто от количества AI-агентов, а от того, как они сотрудничают, как направляются людьми и как дополняют друг друга.

Исследовательская работа под названием «Flag Game: Interpreting Decision Mechanisms of Bounded Social Agents» была представлена на семинаре AI4Good в рамках ICML.