Курс
Prompting Sentinel
Самый жёсткий симулятор промптинга в мире. Спеки, контекст, регуляторы, примеры, схемы, ложь, противники, шип.
ОткрытьДля кого
- Промпт-инженеры и разработчики LLM-продуктов, которым нужно знать, как их систему будут ломать
- Специалисты по безопасности, которые хотят разобраться в атаках на языковые модели
- Выпускники курса Prompting Sentinel — проверить защиту против живых соперников
Что получишь
Место в лидерборде атаки и защиты LLM-систем
- Место в лидерборде атаки и защиты
- Разбор лучших атак и защит после финала — что сработало и почему
- Свою защищённую LLM-систему, проверенную реальными атаками
Как проходит хакатон
- Старт
Правила и цели
Публикуем правила, систему очков и песочницу с целевыми LLM-системами. Каждый участник получает свою систему для защиты.
- Этап 1
Защита
Укрепляешь свою систему: системный промпт, фильтры, проверки выходов. Цель — не дать вытащить секрет и не дать увести модель с задачи.
- Этап 2
Атака
Атакуешь системы соперников: промпт-инъекции, утечки данных, обход инструкций. Каждая успешная атака фиксируется с воспроизводимым логом.
- Финал
Лидерборд и разбор
Подсчёт очков за атаки и выдержанные атаки, итоговый лидерборд и открытый разбор самых сильных ходов.
Правила
- Участвовать можно соло или командой — формат регистрации объявим вместе с датой
- Атаковать можно только системы в песочнице хакатона — никаких реальных сторонних сервисов
- Атака засчитывается, только если она воспроизводится по логу
- Очки начисляются и за успешные атаки, и за атаки, которые выдержала твоя система; спорные случаи проверяет жюри
На чём это построено
Вопросы
Нужен опыт в безопасности?
Нет, но нужно уверенно писать промпты и понимать, как устроен системный промпт. Хорошая подготовка — курс Prompting Sentinel.
Это легально?
Да: все цели — учебные системы в изолированной песочнице, созданные для хакатона. Атаки на что-либо за её пределами запрещены правилами.
Нужно сидеть все 48 часов?
Нет. Это окно, в котором открыты атака и защита; как распределять время — решаешь сам.
Когда старт и сколько стоит?
Дат и цены пока нет. Сейчас мы собираем лист ожидания, чтобы понять, какой формат запускать первым. Все, кто в списке, узнают о наборе раньше остальных — одним письмом.
Лист ожидания
Оставь почту — напишем одним письмом, как только откроем набор на этот формат.