ТехноСводка

Безопасность

Positive Technologies добавила в PT Application Firewall модуль защиты LLM и ИИ-агентов

Positive Technologies выпустила LLM Firewall — модуль PT Application Firewall, который проверяет запросы к языковым моделям и их ответы на признаки атак.

Модуль защищает корпоративных ИИ-ботов и ассистентов от prompt injection, jailbreak, попыток извлечь системные инструкции и «отравления» промптов. Традиционные средства веб-защиты такие атаки не распознают, так как внешне они похожи на обычные сообщения. Подозрительные обращения можно блокировать или фиксировать для анализа.

LLM Firewall также ищет в запросах персональные данные, пароли, ключи доступа, а также токсичный и запрещённый контент. Проверяются и ответы модели, что снижает риск утечек и репутационного ущерба.

Модуль уже встроен в PT AF Cloud и подключается через API, совместимый с OpenAI Chat Completions и Responses. В ближайшее время он появится в on-premise продукте PT AF PRO. Компания ожидает спрос со стороны банков, ритейла, маркетплейсов, телекома и ИТ.

  • Уже доступен в PT AF Cloud
  • Скоро появится в PT AF PRO
  • API совместим с OpenAI Chat Completions и Responses

Источники

Текст подготовлен автоматически по материалам источников и может содержать неточности.