Тематическая подборка
quantization
3 open-source проекта с AI-разборами, метриками и прямыми ссылками на GitHub.
012 нед. назад
FareedKhan-dev/kimi-k3-in-c
Портативный движок на C99 запускает инференс Kimi K3 с 2,78 трлн параметров на Linux x86-64 без GPU и внешних фреймворков.
021 янв. 1 г.
Greninja9257/LabLLM
A native macOS lab for teaching tiny language models to think — build the architecture, train the weights, and watch a small LLM emerge from scratch, locally on Apple Silicon with custom data, tokenizers, checkpoints, and MLX acceleration.
031 янв. 1 г.
giannisanni/pulsar
Rust + CUDA-движок потокового инференса MoE-моделей, который хранит экспертов на NVMe и автоматически распределяет внимание и вычисления между GPU.