Сканер уязвимостей для LLM: прогоняет модель через набор проб на prompt injection, утечки данных, токсичность и другие сбои. Работает как консольная утилита.
Все репозитории
Безопасностьdata-privacy-stack
presidio
Фреймворк для поиска и скрытия персональных данных в тексте, изображениях и таблицах. Находит их, затем маскирует или заменяет, чтобы данные можно было безопасно отдавать модели.
Кому подойдёт
Разработчикам, которые отправляют пользовательские данные в LLM и должны убирать из них персональные сведения.
Как начать
- Открой раздел Installing Presidio в README и выбери способ: pip, Docker или из исходников
- Пройди руководство Getting started на сайте документации
- Разбери анонимизацию текста (Text anonymization) на примере своих данных
Шаги взяты из README. Перед запуском сверься с актуальной версией в репозитории.
Звёзды за последние 30 дней
+4306 сент. — 6 окт.
Описание автора
An open-source framework for detecting, redacting, masking, and anonymizing sensitive data (PII) across text, images, and structured data. Supports NLP, pattern matching, and customizable pipelines.
Ещё в категории «Безопасность»
Python-фреймворк, который проверяет входы и выходы LLM готовыми валидаторами из Guardrails Hub и помогает получать структурированные ответы. Ловит риски до того, как ответ дойдёт до пользователя.
Набор инструментов NVIDIA для программируемых ограничений в диалоговых системах на LLM. Правила задаются в конфигурации и управляют тем, о чём бот говорит и что делает.
Фреймворк Microsoft для проактивного поиска рисков в генеративных системах. Помогает автоматизировать красную команду против моделей и приложений.
Проект Meta по безопасности генеративного ИИ: модели-фильтры Llama Guard и Prompt Guard, сканер Code Shield и набор тестов CyberSec Eval. Объединяет защиту и проверку атакой.
Сканер безопасности для ИИ-агентов, MCP-серверов и навыков. Проверяет конфигурации и файлы SKILL.md на опасные места.