Факт: ИИ не заменяет DevOps, а усиливает его. 70 % ИТ-руководителей по всему миру согласны с тем, что эффективные практики DevOps способствуют успешному внедрению ИИ на всех этапах жизненного цикла разработки программного обеспечения (SDLC). Об этом говорится в отчете Perforce «Состояние DevOps в 2026 году», и это звучит обнадеживающе, пока не посмотришь на ситуацию с другой стороны. Там, где основы DevOps еще не сформировались, ИИ с машиной скоростью усиливает слабые места. Следовательно, по мере расширения внедрения ИИ-агентов управление, в том числе управление данными, становится важнее, чем когда-либо, для снижения рисков.
Как только ИИ-агенты перейдут от помощи разработчикам к действиям от их имени, риск будет заключаться не только в плохом коде; он также будет включать вероятность прохождения некачественных данных через автономные системы. Для организаций, уже сталкивающихся с проблемами плохого управления данными и процессов DevOps, ИИ-агенты очень быстро усугубят существующие проблемы.
Доверие к результатам не соответствует возможности аудита
Именно поэтому крайне важно внедрить процессы и инструменты, которые сделают доверие к результатам ИИ более безопасным, охватывая вопросы соответствия, безопасности, прозрачности, возможности аудита и отслеживаемости. Но даже несмотря на то, что внедрение ИИ набирает обороты, только 39% организаций имеют полностью автоматизированные аудиторские следы, хотя 77% заявляют о доверии к результатам ИИ.
Необходимо быстро устранить разрыв между внедрением ИИ и комплексным управлением. Хотя многие предприятия все еще находятся на ранних этапах внедрения ИИ, в основном используя эту технологию для того, чтобы помочь людям работать быстрее, ситуация быстро меняется. Эта эволюция ролей и обязанностей создает основу для новой операционной динамики.
«Разработчик может прийти на работу и обнаружить, что ИИ за ночь обработал 12 000 строк кода… Этот разработчик едва ли сможет провести выборочную проверку того, что сделал ИИ, не говоря уже о том, чтобы получить полную картину».
Например, разработчик может прийти на работу и обнаружить, что за ночь ИИ обработал 12 000 строк кода, провел 10 000 тестов, написал 200 страниц документации и развернул 32 новых функции продукта, к которым уже получили доступ миллион пользователей. Этот разработчик едва ли сможет провести выборочную проверку того, что сделал ИИ, не говоря уже о том, чтобы получить полное представление о его действиях.
Назад к основам
Мы пережили много технологических революций — может быть, не такого масштаба, как ИИ, — но одна из основ, которую я всегда рекомендую как лидер, — это вернуться к основам, проанализировать зрелость существующих основ DevOps или agile и уделить приоритетное внимание укреплению или внедрению передовых практик. Это не следует рассматривать как задержку, а скорее как необходимую подготовительную работу для предотвращения слабой безопасности, непоследовательного управления данными или других нарушенных процессов. Эта основополагающая работа должна быть проделана сейчас, а не в качестве последующей меры после повсеместного внедрения агентов ИИ, к тому времени устранение последствий может быть затруднительным или невозможным.
Управление должно быть в центре этого анализа зрелости DevOps, особенно для тех, кто работает в строго регулируемых отраслях. Способность укреплять доверие к ИИ посредством полной прозрачности, возможности аудита, отслеживаемости и защитных механизмов станет ключевым фактором дифференциации для организаций, которые хотят оставаться конкурентоспособными и при этом работать безопасно.
Семь шагов к более эффективному управлению
Что это означает на практике? Вот несколько предлагаемых отправных точек:
1. Обеспечьте надлежащую гигиену данных
Очистка данных — это общепринятая практика, но организации часто попадают в ловушку, рассматривая ее как разовую задачу. Данные не останутся чистыми; они будут меняться и расти. Поэтому крайне важно наладить процессы, которые создают данные, а не только сами данные. Определите конкретные потоки данных, поддерживающие бизнес-решения, и примените соответствующие меры управления. В частности, жизненно важно обеспечить, чтобы ИИ никогда не получал доступ к фактическим данным клиентов или другим конфиденциальным данным. Такие методы, как маскировка данных, могут предоставлять реалистичные, но никогда не реальные данные.
«Данные не останутся чистыми; они будут меняться и расти. Поэтому крайне важно наладить процессы, которые создают данные, а не просто сами данные».
2. Обеспечьте наличие надежных тестовых фреймворков
Внедрите надежное модульное, функциональное и производительное тестирование. Убедитесь, что определены и соблюдаются правильные политики, включая требования к соответствию, будь то внутренние или отраслевые.
3. Устраните узкие места
Работайте над созданием конвейеров CI/CD, которые работают бесперебойно от начала до конца, сводя к минимуму необходимость вмешательства человека для запуска процессов. Автоматизируйте как можно больше, одновременно обеспечивая наличие надлежащих мер безопасности для каждой системы ИИ.
4. Упростите проверки безопасности и соответствия
На данный момент многие процессы по-прежнему будут зависеть от участия человека, но сделайте эти шаги максимально простыми. Предоставьте пользователям все необходимое для принятия четкого решения «да» или «нет», вместо того чтобы заставлять их копаться в отчетах, входить в несколько систем и интерпретировать результаты. Используйте ИИ для подведения итогов: «Я провел эти проверки, все было проверено, и вот мой вердикт».
5. Отслеживайте все
Мы стремительно движемся к миру, в котором диалоги с ИИ станут частью концепции разработки программного обеспечения. Эти взаимодействия необходимо фиксировать. В скором времени станет крайне важным поддерживать единый источник достоверной информации, который можно записать один раз, читать только один раз и который ни человек, ни ИИ не смогут изменить.
6. Ограничивайте ИИ
Изолируйте ИИ-агентов в песочнице или контейнерах, чтобы у них был доступ только к тем данным и инструментам, которые им нужны. Не позволяйте им изменять информацию, которая должна оставаться неизменной, например, записи аудита.
7. Начинайте постепенно и развивайтесь
Сначала создайте базовую структуру, а затем добавляйте ускорители по мере того, как организация будет продвигаться по уровням зрелости ИИ. Уровни один и два управляются людьми, следуя человеческим намерениям с проверками с участием человека, в то время как на уровнях три и четыре ИИ становится автономным с участием множества агентов в масштабе, с проактивной самосовершенствующейся системой и требуя минимального участия человека, за исключением направления намерений высокого уровня. Важно отметить, что ничто из этого не может произойти в одночасье, особенно в средах, связанных с безопасностью или критически важных для выполнения миссии, где люди по-прежнему должны быть тесно вовлечены.
Однако даже в таких средах внедрение ИИ-агентов будет быстро ускоряться и подталкивать предприятия к более высоким уровням зрелости ИИ. Именно поэтому крайне важно начать создавать или укреплять эти основы уже сейчас, используя практики DevOps (которые, в конечном счете, являются общепринятыми принципами SDLC) в качестве руководства для быстрого достижения конкурентоспособных инноваций, при этом всегда уделяя приоритетное внимание надежному управлению.
Подписывайтесь на наш канал в Телеграм
⚡ Подписаться