AISecOps · безопасность ИИ-систем. ML firewall между пользователем и моделью, моделью и системами.

ML Firewall (Layer 7+) работает на входе и выходе модели. На входе: проверка по регулярным выражениям и словарям, фильтрация токсичного и нежелательного контента, обнаружение чувствительных и персональных данных, фильтрация по тематикам и политикам, маскирование чувствительных данных в промптах. На выходе: фильтрация ответов по политикам, маскирование, защита от извлечения обучающей выборки, защита от prompt injection. Типичные угрозы, от которых защищает: prompt injection, data poisoning, извлечение обучающей выборки, утечка через модель. WAF их не видит.