Open-source Guardrails Filter для LLM
Cloud.ru открыл исходный код Guardrails Filter — прокси между приложением и языковой моделью, который маскирует PII, API-ключи и пароли до инференса и восстанавливает их в ответе. Версии Standalone и ExtProc (Envoy) можно развернуть в своём контуре с моделями любых провайдеров; уже используется в AI Factory / Foundation Models. На pii-bench заявлены F1 93,1 и точность срабатываний 99,9%.