Фреймворк для поиска и скрытия персональных данных в тексте, изображениях и таблицах. Находит их, затем маскирует или заменяет, чтобы данные можно было безопасно отдавать модели.
Все репозитории
БезопасностьOWASP
www-project-top-10-for-large-language-model-applications
Архив проекта OWASP Top 10 для приложений на LLM: десять главных рисков с описаниями и мерами защиты. Актуальный выпуск 2026 года переехал в новый репозиторий проекта GenAI Security.
Кому подойдёт
Разработчикам и безопасникам, которые хотят свериться с отраслевым списком рисков LLM.
Как начать
- Прочитай уведомление вверху README: актуальная версия перенесена в
GenAI-Security-Project/GenAI-LLM-Top10 - Открой выпуск OWASP GenAI LLM Top 10 2026 на genai.owasp.org
- Сверь свой проект с каждым из десяти рисков
Шаги взяты из README. Перед запуском сверься с актуальной версией в репозитории.
Звёзды за последние 30 дней
+496 сент. — 5 окт.
Описание автора
OWASP Top 10 for Large Language Model Apps (Part of the GenAI Security Project)
Ещё в категории «Безопасность»
Сканер уязвимостей для LLM: прогоняет модель через набор проб на prompt injection, утечки данных, токсичность и другие сбои. Работает как консольная утилита.
Python-фреймворк, который проверяет входы и выходы LLM готовыми валидаторами из Guardrails Hub и помогает получать структурированные ответы. Ловит риски до того, как ответ дойдёт до пользователя.
Набор инструментов NVIDIA для программируемых ограничений в диалоговых системах на LLM. Правила задаются в конфигурации и управляют тем, о чём бот говорит и что делает.
Фреймворк Microsoft для проактивного поиска рисков в генеративных системах. Помогает автоматизировать красную команду против моделей и приложений.
Проект Meta по безопасности генеративного ИИ: модели-фильтры Llama Guard и Prompt Guard, сканер Code Shield и набор тестов CyberSec Eval. Объединяет защиту и проверку атакой.