ИИ-агенты внедряются быстрее, чем компании успевают создать правила контроля

[Цифровой Интеллект 196]

Изображение сгенерировано: Nano Banana

 

Только 21% организаций сообщили о зрелой системе управления агентами, хотя 74% ожидают как минимум умеренного использования таких систем к 2027 году

 

 

Исследование Deloitte показало, что только 21% организаций располагают зрелой системой управления агентным ИИ. При этом 74% опрошенных ожидают, что их компании будут использовать ИИ-агентов как минимум умеренно к 2027 году.

Deloitte считает зрелой систему, в которой определены границы самостоятельных решений агента и действий, требующих одобрения человека, настроен мониторинг поведения и аномалий, а также сохраняются журналы всех этапов работы агента.

В отдельном опросе 501 руководителя и старшего менеджера американских компаний 61% респондентов заявили, что ожидают высокой автономности большинства ИИ-агентов, при которой люди в основном будут выполнять надзорную функцию. При этом только примерно 1 из 5 организаций готова перестроить бизнес-процессы под автономные системы.

Среди препятствий Deloitte называет плохо документированные процессы, разрозненные данные и устоявшиеся методы работы.

 

В группе тех, кто ожидает использования ИИ-агентов к 2027 году, 23% прогнозируют их широкое применение, а 5% — полную интеграцию в ключевые операции.

Deloitte также предупредила, что агенты без мониторинга и централизованного контроля могут ошибаться, раскрывать конфиденциальные сведения, конфликтовать друг с другом или создавать риски для кибербезопасности. В отчёте отдельно отмечается необходимость задавать допустимые действия, пороги согласования, журналировать вызовы инструментов и проверять сценарии отказа.

 

При написании статьи использовались следующие материалы:

 

1.Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.