Корпорации столкнулись с новой угрозой: автономные ИИ-агенты, имеющие доступ к внутренним данным и API, могут стать инструментом утечек. Чтобы предотвратить такие инциденты, компания «СофтМедиаЛаб» выпустила решение КиберАгентРевью, которое отслеживает действия моделей в реальном времени, выявляя аномалии и попытки промпт-инъекций до того, как они нанесут ущерб инфраструктуре.
СофтМедиаЛаб запускает систему контроля ИИ-агентов
Корпорации столкнулись с новой угрозой: автономные ИИ-агенты, имеющие доступ к внутренним данным и API, могут стать инструментом утечек. Чтобы предотвратить такие инциденты, компания «СофтМедиаЛаб» выпустила решение КиберАгентРевью, которое отслеживает действия моделей в реальном времени, выявляя аномалии и попытки промпт-инъекций до того, как они нанесут ущерб инфраструктуре.
Продукт работает как локальный прокси-сервис на рабочих станциях, становясь единственным шлюзом для обращения к большим языковым моделям. Архитектура позволяет внедрять защиту без перенастройки инструментов сотрудников. В централизованном дашборде администраторы видят, какие данные передает конкретный агент, и могут оперативно блокировать подозрительные процессы. Система автоматически прерывает выполнение операций, если обнаруживает отклонение от исходной задачи или попытку внедрения вредоносных команд.
Технический директор СофтМедиаЛаб Максим Горшков отмечает, что классические инструменты управления доступом бессильны против ИИ, который меняет свои цели «на лету». КиберАгентРевью заполняет этот разрыв, позволяя компаниям соблюдать регуляторные требования и защищать критическую инфраструктуру. Актуальность разработки подтверждается прогнозами Gartner: контроль над автономными агентами стал одним из главных вызовов кибербезопасности на 2026 год, так как темпы внедрения ИИ в бизнес значительно опережают развитие методов защиты.
Комментарии (0)
Пока нет комментариев. Будьте первым!