Новый проект
Frisher1/ClaudeCode-Workflow-Lab
Фреймворк для состязательного тестирования AI-пайплайнов с бюджетными циклами, 15 главами и 14 лабораторными работами.
- Stars
- ★ 117
- Forks
- ⑂ 0
- Язык
- HTML
- Статус
- В канале 1 янв. 1 г.
AI-разбор
AdversarialFlow Engine — концептуальный фреймворк и набор инструментов для состязательной верификации AI-систем. Проект предлагает трёхуровневую архитектуру проверки: юнит-тесты с состязательными входами, проверка целостности пайплайна и мета-циклы с ограничением бюджета. Подходит для интеграции в CI/CD и поиска слабых мест в LLM-пайплайнах до их обнаружения реальным злоумышленником.
Кому подойдёт
Инженеры по безопасности и QA, разработчики AI-пайплайнов, исследователи состязательного тестирования и специалисты по ответственному применению ИИ
Что внутри
- Бюджетные циклы верификации с ограничением по времени, вычислениям и числу запросов
- Состязательные промпты для выявления галлюцинаций, противоречий и режимов отказа
- Шлюзы целостности пайплайна, останавливающие выполнение при нарушении спецификаций
- Поддержка 12+ языков с локальными профилями атак, включая русский
- 15 глав и 14 практических лабораторных работ с экспортом отчётов в JSON, PDF и HTML
Где применять
- Стресс-тестирование RAG-пайплайнов и цепочек вызовов LLM перед продакшеном
- Интеграция состязательной проверки в CI/CD с оповещениями в Slack и email
- Обнаружение уязвимостей к prompt injection и jailbreak-сценариям в многошаговых цепочках
- Аудит сторонних зависимостей и проверка готовности к релизу по формальным спецификациям
Темы