В сфере разработки программного обеспечения всегда существовала проблема незаметного распространения конфиденциальных данных в неожиданных местах, и многие организации утратили контроль над их местонахождением.
Однако появление агентного ИИ вывело эту проблему на новый уровень. Агенты ИИ не просто ускоряют жизненный цикл разработки программного обеспечения (SDLC); они развивают этот процесс, взаимодействуя с данными на каждом этапе способами, которые команды могут не полностью осознавать. Обеспокоенность вызывает то, что они взаимодействуют с потенциально конфиденциальными данными без конкретного запроса. Масштаб и скорость, с которой это может происходить, могут превышать возможности систем управления многих организаций.
Обнадеживающей новостью является то, что эта проблема решаема. Команды, которые создают надежные практики управления данными, разработанные с учетом скорости машин и автономных систем, а не только человеческих рабочих процессов, будут с большей уверенностью соблюдать требования и быстрее внедрять инновации. Это, в свою очередь, будет способствовать развитию способности организаций создавать ИИ, которому они могут доверять.
Лучшие практики управления тестовыми данными уже много лет достаточно хорошо известны. Управление тестовыми данными на протяжении всего цикла разработки продукта может осуществляться безопасно и эффективно.
К сожалению, конфиденциальные данные по-прежнему часто появляются на всех этапах цикла разработки программного обеспечения (SDLC), включая тестовые среды, конвейеры CI/CD, наборы данных для обучения моделей, хранилища функций, среды регрессионного тестирования и хранилища памяти ИИ-агентов. Они могут присутствовать в любой среде и в любой модели на протяжении всего жизненного цикла разработки, создавая значительный риск для организации.
Это имеет значение, поскольку объем кода и тестовых данных резко растет. С ростом популярности агентного ИИ все меньше людей участвуют в написании кода, а все больше дают указания агентам ИИ, как это делать.
Этот сдвиг усиливает необходимость в тестовых данных, поскольку с ростом объема генерируемого кода увеличивается и объем данных, требующих тестирования.
Агентный ИИ все лучше способен самостоятельно управлять этим процессом. В результате многие организации сообщают, что внедрение ИИ ускоряется быстрее, чем их стратегии обеспечения конфиденциальности данных успевают за этим следовать.
Непроизводственные среды и известные риски
В подходе организаций к безопасности данных существует постоянная «слепая зона». К производственным и непроизводственным средам относятся совершенно по-разному, даже если в обеих хранятся большие объемы конфиденциальных данных. Производственные среды оснащены мониторингом SOC, строгим контролем доступа и протоколами реагирования на инциденты.
Непроизводственные среды, с другой стороны, включают разработку, тестирование, аналитику и ИИ. Эти среды просто не были созданы для того, чтобы выдерживать тот же уровень угроз, что и производственные данные, и именно поэтому допуск реальных данных клиентов, финансовых записей или медицинской информации в них сопряжен с высоким риском.
Проблема усугубляется экономикой удобства, когда делается больше того, что проще. Культура DevOps способствовала распространению сред, например, созданию множества клонов, похожих на производственные, регулярному обновлению данных и ускорению конвейеров доставки. Больше сред означает больше копий данных.
Когда «упрощения» кажутся малорискованными, они становятся нормой. И наоборот, при правильном управлении использование таких технологий, как виртуализация и маскировка данных, делает доступ столь же беспрепятственным, и команды поступают правильно. Решение заключается не в ограничении данных, а в том, чтобы сделать соблюдение нормативных требований путем наименьшего сопротивления.
«Решение заключается не в ограничении доступа к данным, а в том, чтобы сделать соблюдение нормативных требований путем наименьшего сопротивления».
Структуры управления данными были созданы для человеческих рабочих процессов и допускают ручную проверку, комитеты по утверждению и периодические аудиты. Эта модель уже испытывала нагрузку до появления ИИ. Сейчас, когда автономные агенты способны отправлять сотни или тысячи запросов на данные в час, она просто несовместима с новой реальностью.
Управление должно функционировать как услуга с автоматизированными механизмами контроля, обеспечивающими соблюдение политики в момент доставки данных в режиме реального времени. Обеспечение соответствия данных все чаще осуществляется во время выполнения, что отвечает основному требованию непрерывного соблюдения нормативных требований. Это оказывает гораздо большее давление на организации, которые должны точно знать, с какими данными они работают, а это означает, что классификация и анализ данных должны быть встроены в конвейер, а не добавлены в последнюю очередь.
Создание системы управления для эпохи агентного ИИ
Лучшие практики DevOps не устаревают в эпоху агентного ИИ. На самом деле, они становятся еще более важными. Отчет «Состояние DevOps в 2026 году» подтверждает, что зрелый DevOps является основой успеха ИИ. То же самое относится и к управлению данными. Вот практики, которые имеют наибольшее значение:
- Встраивайте средства контроля соответствия в сам конвейер данных, а не в качестве последующего этапа проверки. Логика соответствия должна выполняться автоматически при запросе или доставке данных. Именно это превращает управление из узкого места в сервис.
- Замените копии производственных данных виртуализированными, замаскированными и синтетическими альтернативами. Виртуализированные среды позволяют командам запускать копии баз данных, похожие на производственные, за секунды, не перемещая исходные конфиденциальные данные. Синтетические данные можно генерировать в соответствии с точными спецификациями, включая крайние случаи, которые не существуют в производственной среде.
- Используйте Model Context Protocol (MCP), чтобы предоставить агентурным конвейерам DevOps стандартный интерфейс для тестирования сред данных. MCP позволяет агентам ИИ и разработчикам взаимодействовать с инфраструктурой данных через диалоговые подсказки на естественном языке, устраняя необходимость входить в несколько систем или ждать, пока команды инфраструктуры наладят интеграции. Когда запрос на копию данных с надлежащим управлением будет так же прост, как клонирование производственной копии, команды будут поступать правильно по умолчанию.
- Переход от управления на основе аудита к обеспечению соблюдения правил во время выполнения. Классификация и маркировка должны выполняться на начальном этапе, постоянно пересматриваться, а затем обеспечиваться во время выполнения.
Два сценария иллюстрируют, как это работает в современных инженерных организациях. В первом случае тестовый агент запускает регрессионные тесты в ночное время и обнаруживает, что ему нужна свежая копия базы данных платежей, замаскированная для соответствия стандарту PCI.
Нет никого, кто мог бы одобрить этот запрос. Агент вызывает API данных, получает виртуализированную замаскированную копию в течение 90 секунд, завершает тестирование и ликвидирует среду, при этом не создается ни одного тикета по вопросам соответствия.
Во втором случае агенту по контролю качества необходимо протестировать, как платежная система обрабатывает 10 000 одновременно просроченных кредитных карт в високосный год. Такого сценария не существует в производственных данных. Агент генерирует синтетический набор данных с точно такими характеристиками, запускает тесты, проверяет исправление и закрывает дефект до утреннего планерного совещания команды. Ни в какой момент не использовались реальные данные клиентов.
Общим для обоих сценариев является философия проектирования, заключающаяся в обеспечении соответствия требованиям с помощью данных производственного качества по запросу. Все это осуществляется через API или интерфейс на естественном языке, причем обеспечение соблюдения политик встроено в механизм доставки, а не применяется в качестве контрольного механизма на последующем этапе.
Цикл разработки программного обеспечения (SDLC) никогда не был столь продуктивным, и никогда еще он не подвергал столь большое количество конфиденциальных данных воздействию стольких систем, агентов и сред одновременно. Окно возможностей для правильного управления сужается, поскольку нормативные рамки, такие как Закон ЕС об искусственном интеллекте, повышают планку требований к разработке ИИ, соответствующей нормам, а утечки данных в непроизводственных средах продолжают попадать в заголовки новостей.
«Цикл разработки программного обеспечения (SDLC) никогда не был столь продуктивным, и никогда еще столько конфиденциальных данных не подвергалось одновременному воздействию со стороны стольких систем, агентов и сред».
Неудивительно, что 86% предприятий намерены инвестировать в решения в области ИИ и конфиденциальности данных, согласно отчету «Состояние ИИ и конфиденциальности данных в 2025 году» от Perforce Delphix.
Организации, которые смогут успешно справиться с этой задачей, — это не те, кто создает ручные процессы обеспечения соответствия. Это те, кто перестраивает управление как инфраструктуру: автоматизированную, встроенную, работающую в режиме реального времени и созданную для мира, где основными потребителями данных являются автономные системы, работающие со скоростью машин. При правильном подходе прочная основа из надежных данных ощутимо ускоряет инновации.
Это не будущее. Инструменты, процессы и методы уже существуют; сейчас настало время для лидеров в области инженерии заложить этот фундамент.
Читайте также
- Red Hat представляет предварительную версию интеграции AI Agent с платформой автоматизации Ansible
- Anaconda приобретает Outerbounds, чтобы устранить ошибки в коде, который ИИ-агенты продолжают выпускать
- «Великое разъединение»: масштабирование внешнего цикла в эпоху агентов
Подписывайтесь на наш канал в Телеграм
⚡ Подписаться