Тематическая подборка
prompt-injection
4 open-source проекта с AI-разборами, метриками и прямыми ссылками на GitHub.
011 янв. 1 г.
CyberSunil/LLMVault
Локальная CTF-платформа с 25 намеренно уязвимыми лабораториями для практики атак и защиты LLM, RAG-систем и агентных инструментов.
021 янв. 1 г.
illiahaidar/mcptrustchecker
Офлайн-сканер MCP-серверов, анализирующий опубликованный исходный код npm и PyPI для выявления угроз и расчёта детерминированной оценки доверия.
031 янв. 1 г.
Sentry-LLM/SentryLLM
TypeScript-SDK для обнаружения промпт-инъекций, джейлбрейков, утечек данных и аномального поведения LLM в реальном времени.
041 янв. 1 г.
12122J/mcpvet
CLI-инструмент проверяет MCP-серверы в изолированной песочнице, выявляет опасные сценарии и присваивает оценку безопасности от A до F.