Новый проект
vishalGitthub/cli-llm-mesh
CLI-шлюз для xAI, OpenRouter, Mistral и DeepSeek с умной маршрутизацией запросов и стримингом ответов прямо в терминал.
- Stars
- ★ 116
- Forks
- ⑂ 0
- Язык
- HTML
- Статус
- В канале 1 янв. 1 г.
AI-разбор
FirePulse — это терминальный оркестратор, который объединяет несколько провайдеров LLM (xAI, OpenRouter, Mistral, DeepSeek) через единый CLI. Он автоматически выбирает оптимальную модель для каждого запроса, балансируя скорость, стоимость и качество. Подходит разработчикам, которым нужно быстро переключаться между моделями без привязки к одному вендору и без тяжёлых зависимостей.
Кому подойдёт
Разработчики и инженеры, которым нужен лёгкий терминальный инструмент для работы с разными LLM-провайдерами без блокировки на одном вендоре
Что внутри
- Умная маршрутизация запросов между провайдерами по контексту, задержке и цене
- Стриминг ответов в терминал с задержкой менее 200 мс до первого токена
- Локальное хранение API-ключей с шифрованием AES-256-GCM и привязкой к TPM/CPU
- YAML-конфигурация с горячей перезагрузкой без перезапуска сессии
- Кросс-платформенный TUI с поддержкой 40+ языков и RTL-скриптов
Где применять
- Сравнение ответов разных моделей на одни и те же запросы в терминале
- Автоматический выбор самой дешёвой или быстрой модели под задачу
- Работа с LLM через SSH/WSL без браузера и тяжёлых GUI-клиентов
- Параллельные пакетные запросы к нескольким провайдерам с фолбэком при сбоях
Темы