Новый проект
CyberSunil/LLMVault
Локальная CTF-платформа с 25 намеренно уязвимыми лабораториями для практики атак и защиты LLM, RAG-систем и агентных инструментов.
- Stars
- ★ 307 ↗ +7 за 7 дней
- Forks
- ⑂ 73
- Язык
- Python
- Статус
- В канале 1 янв. 1 г.
AI-разбор
LLMVault — локальная учебная платформа в формате CTF для практического изучения OWASP LLM Top 10 и тестирования безопасности генеративных систем. Проект содержит 25 лабораторий в трех уровнях: 10 базовых по категориям OWASP, 10 многошаговых продвинутых испытаний и 5 экспертных сценариев, доступ к которым открывается после прохождения предыдущих уровней и ввода специального ключа. Уязвимые ассистенты работают на детерминированной логике без API-ключей, поэтому приложение запускается полностью офлайн; веб-интерфейс построен на Flask, а Docker поддерживается через Dockerfile и docker-compose.yml. Состояние игроков и таблица результатов сохраняются в data/progress.json без базы данных, а лаборатории реализованы как классы Challenge с поддержкой общего состояния для многоходовых атак. Экспертные испытания хранятся в зашифрованном файле и моделируют атаки без реального выполнения RCE, SSRF или SQL. Проект предназначен только для авторизованного локального обучения и не должен публиковаться в интернете или использоваться в продуктивных системах.
Специалисты по безопасности приложений и ИИ, red team-команды, пентестеры, разработчики LLM-, RAG- и агентных систем, преподаватели и учащиеся, которым нужен контролируемый локальный полигон для изучения атак и защитных мер.
Что внутри
- 25 лабораторий по безопасности LLM в трех уровнях сложности с последовательной разблокировкой
- Сценарии по prompt injection, утечке системных инструкций, обходу фильтров, отравлению данных, рискам RAG и чрезмерным полномочиям агентов
- Многоходовые испытания с сохранением состояния, цепочками вызовов инструментов, реконструкцией фрагментов и извлечением модели через запросы
- Детерминированные скриптовые ассистенты, работающие офлайн без внешних API-ключей
- Веб-интерфейс Flask со справочными панелями OWASP, подсказками, отправкой флагов, счетчиком очков и таблицей результатов
- Docker-развертывание, сохранение прогресса в JSON и зашифрованный экспертный уровень с ключом доступа
Где применять
- Практическое обучение специалистов по безопасности атакам на LLM и методам защиты от них
- Проведение внутренних CTF и учебных полигонов для команд AI Security, red team и application security
- Подготовка разработчиков RAG-приложений и агентных систем к проверке контроля доступа, обработки вывода и полномочий инструментов
- Демонстрация уязвимостей генеративных приложений на локальном сервере без подключения к внешним моделям
Темы