Тематическая подборка
1 open-source проект с AI-разборами, метриками и прямыми ссылками на GitHub.
vLLM — высокопроизводительный и экономичный по памяти движок инференса и обслуживания больших языковых моделей с поддержкой 200+ архитектур.