Тематическая подборка
1 open-source проект с AI-разборами, метриками и прямыми ссылками на GitHub.
CPU-first сервер инференса на llama.cpp с дисковым KV-кэшем, спекулятивным декодированием и OpenAI-совместимым API для недорогих ARM-серверов.