Когда ИИ-агенты ошибаются: кто несет ответственность?

01Введение

По мере того как ИИ-агенты начинают совершать транзакции от имени потребителей, эмитенты карт должны быть готовы к новым ответам на вопрос: «Кто авторизовал эту транзакцию?». Поскольку эмитенты видят привычные паттерны трат своих клиентов, у них есть возможность определить, соответствует ли транзакция типичному покупательскому поведению.

Теоретическое будущее агентной коммерции стало реальностью в 2025 году. Apple интегрировала агентоподобный интеллект в Siri для сотен миллионов пользователей, а Google встраивает управляемый ИИ шопинг прямо в поиск. ИИ-системы начинают действовать от имени потребителей все более автономно.

Этот сдвиг открывает путь к более seamless и интенциональному опыту покупок, но также создает новый и быстро эволюционирующий класс рисков. Каждая крупная эволюция покупательского поведения — от электронной коммерции до мобильных кошельков — расширяла поверхность для мошенничества и злоупотреблений. Агентная коммерция следует тому же паттерну, но скорость и масштаб ИИ-систем сжимают этот риск в гораздо более короткое операционное окно.

Ключевой вопрос для платежной экосистемы: когда ИИ-агент совершает ошибочную покупку из-за ошибки, кто в конечном итоге несет ответственность?

02Прецедент American Express

American Express сделала ранний шаг к решению этого вопроса. В начале 2026 года компания представила набор для разработки агентной коммерции (developer kit) вместе с обязательством покрывать ошибочные покупки, совершенные зарегистрированными ИИ-агентами, работающими в ее сети.

Модель построена на контролируемой среде, где верифицированным агентам выдаются платежные реквизиты, а держатели карт проходят аутентификацию до того, как агентам разрешается совершать транзакции. Цель — установить более высокий базовый уровень доверия, чтобы сократить споры и chargebacks, одновременно позволяя потребителям свободнее совершать транзакции через ИИ-посредников.

Это контролируемый подход, призванный повысить доверие и увеличить объем. Хорошая новость: это отражает то, что ответственность становится явной переменной дизайна в агентной коммерции. Amex не одинока в этом сдвиге. Mastercard и Visa уже представили раннюю инфраструктуру для поддержки агентных транзакций.

Плохая новость: в пресс-релизе Amex отсутствует слово «мошенничество». Amex заявляет, что будет предоставлять реквизиты только верифицированным агентам и аутентифицировать держателей карт перед использованием агентов, но что произойдет, когда злоумышленник обойдет контроль аутентификации?

03Новые каналы покупок — новые векторы атак

В качестве примера можно рассмотреть запуск Apple Pay в 2014 году. Тогда Apple заявила, что новый способ оплаты снизит мошенничество за счет ограничения доступа к реквизитам карт. Эмитенты, такие как American Express, разработали цифровые токены с доменными ограничениями, которые делали кражу платежного токена практически бесполезной. Но Apple и Amex не учли, что злоумышленники могут подготавливать украденные данные личности на устройство. Это привело к массовому мошенничеству во время запуска.

Amex и другие карточные сети столкнутся с той же проблемой в предложениях агентной коммерции. Хотя Amex утверждает, что их подход к верификации агентов и аутентификации держателей карт даст продавцам более надежную основу легитимности, продавцам следует ожидать, что злоумышленники будут тестировать новые технологии, как это было при запуске мобильных кошельков.

Реальность такова, что верификация покупательских агентов и аутентификация держателей карт — это неотъемлемая часть запуска новых платежных возможностей, с ИИ или без него. Пресс-релиз Amex показывает, что компания предпринимает правильные шаги для создания основы безопасного опыта агентной коммерции, снижая вероятность ошибок, связанных с галлюцинациями ИИ и багами, но важно не путать эти усилия с защитой от мошенничества.

04От транзакций к идентичности

Механизмы контроля мошенничества эмитентов карт в значительной степени полагаются на данные авторизации платежей, которым часто не хватает контекста идентичности. Сообщения об авторизации платежей были разработаны для ответа на вопрос «авторизовано ли это платежное событие?», но не отвечают на вопрос «совершает ли этот платеж реальный держатель карты?».

Исключением являются аутентифицированные транзакции 3D Secure, где дополнительные данные, такие как email, устройство и IP, отправляются эмитенту в предварительном сообщении. Проблема в том, что 3D Secure имеет очень низкое внедрение в Северной Америке. На сегодняшний день нет упоминаний о том, что 3D Secure является частью агентных инструментов платежных сетей.

05Решение проблемы разрешения идентичности

Основная проблема — это идентичность. Текущие решения для борьбы с мошенничеством в платежах для продавцов построены вокруг идентичности держателя карты и сигналов устройства. Эмитенты, которые потребляют эти данные через опыт продавца, сталкиваются с гораздо более низким уровнем мошенничества и ложных отклонений. Этот подход больше не является реалистичным для агентных моделей.

Эмитенты теперь должны учитывать третью сущность: самого агента. Если эмитент не может отличить верифицированного ИИ-агента, действующего от имени пользователя, от вредоносного или скомпрометированного бота, то каждая транзакция несет повышенную неопределенность. В такой среде покрытие ответственности становится структурным требованием, а не стратегическим выбором.

Закрытие этого разрыва требует переноса разрешения идентичности в сам протокол транзакции. Это включает создание постоянных идентичностей агентов, обеспечение криптографической или токен-базированной валидации авторизации агента, привязку согласия пользователя непосредственно к действиям агента и поддержание видимости поведения агента в реальном времени.

Ранние подходы, такие как контролируемые реестры агентов, указывают на это направление. Однако масштабирование этих моделей в открытых экосистемах вносит значительную сложность для эмитентов, сетей и платформ.

06Что нужно делать эмитентам сейчас

Критическое окно для действий — до того, как объем агентных транзакций достигнет масштаба. Приоритет — модернизация стека авторизации.

1. Модернизировать логику авторизации. Системы принятия решений эмитентов должны выйти за рамки сигналов, ориентированных только на пользователя. Идентичность агента, происхождение и поведенческий контекст должны быть включены в решения об авторизации в реальном времени.
2. Внедрить инфраструктуру, ориентированную на идентичность. Системы должны верифицировать как пользователей, так и агентов, а также определять отношения между ними. Без этого различие между легитимной автоматизацией и мошенничеством останется ненадежным.
3. Переработать структуры споров. Споры, инициированные агентами, не вписываются в существующие категории. Эмитентам нужны рабочие процессы, отражающие разделенную ответственность между пользователями, агентами и продавцами.
4. Согласовать внутренние команды по агентным сценариям использования. Команды по борьбе с мошенничеством, продукту и клиентскому опыту должны работать в единой структуре для агентной коммерции. Разрозненное владение замедляет реакцию и увеличивает подверженность рискам.
5. Участвовать в разработке emerging standards. Поскольку сети определяют ранние структуры для агентной коммерции, эмитенты должны участвовать в формировании стандартов в области идентичности, авторизации и распределения ответственности.

07Добро пожаловать в новую агентную эру

Агентная коммерция ведет к структурному сдвигу в том, как распределяется ответственность в платежной экосистеме. Мошенничество и разрешение споров, исторически рассматриваемые как последующие процессы, перемещаются в центр архитектуры транзакций. Эмитенты, которые действуют сейчас, чтобы перестроить свои системы, будут лучше подготовлены к управлению рисками и поддержке доверия по мере масштабирования агентной коммерции.