Системно-ориентированный подход к агентному ИИ в инженерных процессах

01Введение

Агентный искусственный интеллект (Agentic AI) всё активнее применяется в инженерных процессах — от анализа требований и тестирования до разработки моделей и верификации. По мере роста внедрения организации изучают способы интеграции этих возможностей в устоявшиеся инженерные практики, не теряя прозрачности в оценке и утверждении изменений.

Редакция Electronic Design побеседовала с Тяньи Чжу (Tianyi Zhu), старшим менеджером по продуктам MathWorks, о роли системно-ориентированного подхода в рабочих процессах с агентным ИИ, о том, как инженерные команды могут оценивать и проверять изменения, предложенные ИИ, и что требуется для масштабирования таких подходов в организациях.

02Почему результаты, сгенерированные ИИ, могут выглядеть корректными, но всё равно приводить к сбоям в инженерных системах?

Результаты, сгенерированные ИИ, могут казаться правильными, поскольку они часто удовлетворяют локальным ожиданиям на уровне отдельного артефакта. Модель может быть структурно валидной, код — компилироваться, а тесты — успешно выполняться. Однако инженерная корректность определяется поведением системы в целом, а не только тем, выглядят ли отдельные артефакты верными. Сбои часто возникают при взаимодействии программного обеспечения, систем управления и связанных компонентов.

Например, агент может модифицировать контроллер и пройти локальные тесты, но изменение всё равно способно вызвать неожиданное поведение при интеграции с более широкой системой. Сгенерированный артефакт может быть технически валидным, но при этом не соответствовать общим системным требованиям. Инженерные системы нельзя оценивать только по корректности отдельных выходных данных. Важен эффект, который эти изменения оказывают на поведение системы, и соответствие требованиям.

03Почему агентный ИИ требует системно-ориентированного подхода для реальной работы?

При системно-ориентированном подходе команды работают в едином исполняемом системном контексте, который включает системные архитектуры, исполняемые модели, тестовые обвязки, связи с требованиями и CI-процессы. В совокупности эти артефакты дают командам общую основу для симуляции, верификации и повседневной инженерной работы в разных доменах.

Исполняемая модель и связанные с ней верификационные активы становятся точкой отсчёта для ожидаемого поведения системы. Команды оценивают изменения по одним и тем же интерфейсам, требованиям, допущениям и критериям верификации, даже когда работа охватывает несколько связанных моделей. Это помогает выявлять проблемы на ранних этапах разработки. Изменение можно оценить с помощью симуляции, тестирования и анализа до того, как оно создаст проблемы при интеграции.

Агентный ИИ выигрывает от такой среды, поскольку изменения могут быть оценены в том же системном контексте. Без него агент может выдавать результаты, которые выглядят разумными, но не соответствуют предполагаемому поведению системы.

04Как выглядит использование агентного ИИ в системно-ориентированном процессе?

Агентный ИИ работает наилучшим образом, когда он опирается на полный системный контекст. Например, инженер может попросить агента обновить контроллер для удовлетворения нового требования. Агент может предложить модификации модели, проверить интерфейсы и зависимости данных, выполнить проверки модели. Затем он может запустить тестовую обвязку, сравнить зарегистрированные сигналы с допусками, привязанными к требованиям, и выявить сбои. Он также способен генерировать или обновлять тесты и обобщать результаты.

Эти действия не отменяют необходимость валидации проектных изменений. Агентный ИИ помогает автоматизировать инженерные задачи, которые иначе были бы ручными и трудоёмкими, но валидация не становится опциональной. Инженер всё равно должен подтвердить, что обновление работает, прежде чем оно может быть принято. Симуляция, тестирование и анализ предоставляют доказательства, необходимые для принятия такого решения.

Агенты могут генерировать полезные модели и тестовые изменения, но они также могут создавать модели, которые структурно валидны, но реализуют некорректное поведение. Доступ к требованиям, моделям, интерфейсам, тестам и результатам симуляции помогает удерживать эти изменения в соответствии с инженерным замыслом. Инженеры определяют, что необходимо проверить и какие доказательства требуются для утверждения изменения. Агентный ИИ может помогать оркестровать и выполнять проверки, но ответственность за утверждение остаётся за инженерной командой.

05Как выглядит инженерная ответственность в процессах с агентным ИИ?

Инженерные решения должны основываться на воспроизводимых и проверяемых оценках, а не только на сгенерированных выходных данных. Каждое предлагаемое изменение необходимо оценивать на соответствие требованиям, моделям и автоматизированным процессам верификации. Цель — не идеальное побитовое совпадение в каждом окружении. Важно, чтобы результаты были воспроизводимы в пределах заданных допусков, а различия можно было объяснить и отследить.

Симуляция и верификация предоставляют объективные доказательства того, как изменение влияет на поведение системы. Зарегистрированные результаты и тестовые артефакты создают аудиторский след, который инженеры могут изучить перед утверждением изменения. Агентный ИИ может генерировать предложения и помогать автоматизировать верификационные активности, но решения по-прежнему зависят от инженерной проверки, отслеживаемости и доказательств.

06Как инженерные команды масштабируют агентный ИИ?

Большинство организаций начинают с фокусированных рабочих процессов, где ценность и риски хорошо понятны. Ранние усилия часто сосредоточены на генерации тестов, проверке моделей, анализе требований, разработке документации или модификации подсистемы. Команды обычно начинают с одного варианта использования и развиваются от него.

По мере того как команды накапливают доказательства, необходимые для оценки и проверки изменений, выполненных с помощью ИИ, агентные процессы могут расширяться для поддержки более крупных частей процесса разработки. Успешное масштабирование требует, чтобы команды разрабатывали, верифицировали и утверждали работу единообразным образом. Команды достигают такой согласованности, работая по одним и тем же инженерным стандартам, практикам верификации, системе контроля версий, повторно используемым тестовым активам и процессам утверждения.

Общая основа, построенная на архитектурах моделей, отслеживаемости требований и процессах регрессионного тестирования, помогает командам понимать и проверять результаты в разных проектах и командах. По мере роста внедрения инженеры остаются ответственными за проверку результатов и утверждение изменений. Агентный ИИ может помогать автоматизировать инженерную работу, но ответственность за поставленную систему остаётся за инженерной командой.