Все репозитории

www-project-top-10-for-large-language-model-applications

Архив проекта OWASP Top 10 для приложений на LLM: десять главных рисков с описаниями и мерами защиты. Актуальный выпуск 2026 года переехал в новый репозиторий проекта GenAI Security.

Кому подойдёт

Разработчикам и безопасникам, которые хотят свериться с отраслевым списком рисков LLM.

Как начать

  1. Прочитай уведомление вверху README: актуальная версия перенесена в GenAI-Security-Project/GenAI-LLM-Top10
  2. Открой выпуск OWASP GenAI LLM Top 10 2026 на genai.owasp.org
  3. Сверь свой проект с каждым из десяти рисков

Шаги взяты из README. Перед запуском сверься с актуальной версией в репозитории.

Звёзды за последние 30 дней

+3722 окт. — 19 нояб.
1 4611 498

Описание автора

OWASP Top 10 for Large Language Model Apps (Part of the GenAI Security Project)

data-privacy-stack

presidio

Фреймворк для поиска и скрытия персональных данных в тексте, изображениях и таблицах. Находит их, затем маскирует или заменяет, чтобы данные можно было безопасно отдавать модели.

12 тыс.звёзд+423 за 28 дн.Python

NVIDIA

garak

Сканер уязвимостей для LLM: прогоняет модель через набор проб на prompt injection, утечки данных, токсичность и другие сбои. Работает как консольная утилита.

10 тыс.звёзд+365 за 27 дн.Python

guardrails-ai

guardrails

Python-фреймворк, который проверяет входы и выходы LLM готовыми валидаторами из Guardrails Hub и помогает получать структурированные ответы. Ловит риски до того, как ответ дойдёт до пользователя.

7,6 тыс.звёзд+61 за 28 дн.Python

NVIDIA-NeMo

Guardrails

Набор инструментов NVIDIA для программируемых ограничений в диалоговых системах на LLM. Правила задаются в конфигурации и управляют тем, о чём бот говорит и что делает.

7,5 тыс.звёзд+154 за 28 дн.Python

microsoft

PyRIT

Фреймворк Microsoft для проактивного поиска рисков в генеративных системах. Помогает автоматизировать красную команду против моделей и приложений.

4,9 тыс.звёзд+213 за 27 дн.Python

meta-llama

PurpleLlama

Проект Meta по безопасности генеративного ИИ: модели-фильтры Llama Guard и Prompt Guard, сканер Code Shield и набор тестов CyberSec Eval. Объединяет защиту и проверку атакой.

4,5 тыс.звёзд+39 за 28 дн.Python
OWASP/www-project-top-10-for-large-language-model-applications — что это и как начать