Новый проект
Drobiazkin/ai-agent-architecture
Открытая инженерная книга и практический курс о создании управляемых LLM-систем: от токенизации и RAG до агентов, MCP, оценивания и развёртывания моделей.
- Stars
- ★ 46
- Forks
- ⑂ 9
- Язык
- HTML
- Статус
- В канале 1 янв. 1 г.
AI-разбор
Проект представляет открытую инженерную книгу из восьми частей, 26 глав, пяти приложений и сопровождающего практического курса по созданию контролируемых LLM-систем и ИИ-агентов. Материал объясняет устройство моделей, токенизацию, embeddings, attention, генерацию, контекст, структурированный вывод, RAG, агентные паттерны, память, вызов инструментов и многоагентные системы. Отдельные разделы посвящены MCP, сборке стека на JVM, оцениванию, наблюдаемости на базе OpenTelemetry, безопасности, стоимости и задержкам. Часть VII рассматривает LoRA, QLoRA, DoRA, RLHF, DPO, дистилляцию, квантование, PagedAttention, непрерывную пакетную обработку, speculative decoding и предварительное обучение. В репозитории доступны англоязычная и русскоязычная версии в Markdown, исходники курса, Mermaid-диаграммы и инструменты генерации иллюстраций; HTML и PDF требуют сборки. Тексты распространяются по CC BY-SA 4.0, а кодовые блоки и каталоги tools и build — по MIT.
Инженеры и архитекторы, уже знакомые с распределёнными системами, DDD, событийными архитектурами, оркестрацией и безопасностью, которым нужно применять LLM и ИИ-агентов как управляемые архитектурные компоненты.
Что внутри
- Инженерная книга с шаблоном разбора паттернов: контекст, проблема, ограничения, решение, механика, пример, результаты и источники.
- Систематический разбор RAG: от наивного поиска до гибридного поиска, reranking, GraphRAG, агентного и адаптивного подходов, включая индексы и оценивание.
- Каталог архитектурных паттернов для агентов: chaining, routing, parallelization, orchestrator-workers и evaluator-optimizer, а также таксономия отказов.
- Разделы о MCP, структурированном выводе, контекстной инженерии, памяти, безопасности, OpenTelemetry GenAI и производственной эксплуатации.
- Практический курс из девяти модулей с проверяемым Definition of Done: от локальной модели и RAG до агентов, MCP, оценивания, дообучения и итоговой архитектуры.
- Материалы о дообучении и самостоятельном обслуживании открытых моделей, включая LoRA, QLoRA, DPO, квантование и scaling laws.
Где применять
- Обучение инженеров распределённых систем архитектуре LLM-приложений и ИИ-агентов без сведения темы к настройке подсказок.
- Подготовка архитектурных решений для корпоративных систем с RAG, вызовом инструментов, MCP, наблюдаемостью и контролем безопасности.
- Проектирование и оценивание производственных агентных систем с учётом стоимости, задержки, надёжности и отказоустойчивости.
- Практическое освоение локального запуска, дообучения и обслуживания открытых моделей на собственном оборудовании.
- Использование книги и курса как справочника при архитектурных ревью, разработке ADR и внедрении LLM-систем в организации.
Темы