Новый проект
modelbus/one-api-pro
Корпоративный шлюз с единым OpenAI-совместимым API, интеграцией 30+ платформ, точным учетом затрат, подписками и децентрализованным кластером.
- Stars
- ★ 323 ↗ +301 за 7 дней
- Forks
- ⑂ 7
- Язык
- Go
- Статус
- В канале 1 янв. 1 г.
AI-разбор
One Api Pro — шлюз для унификации доступа к языковым и мультимодальным моделям через OpenAI-совместимые конечные точки. Серверная часть написана на Go с Gin и GORM, поддерживает SQLite, MySQL и PostgreSQL, а административная панель создана на Vue 3, Vite и Arco Design с визуальными графиками на ECharts. Проект объединяет более 30 платформ, включая OpenAI, Anthropic, Gemini, DeepSeek и другие сервисы, а также выполняет маршрутизацию, балансировку каналов, автоматическое переключение при сбоях и ограничение запросов. Встроены управление токенами, четырехуровневая модель ролей, тарифы и подписки с оплатой по токенам или запросам, периодическими лимитами и раздельным расчетом Prompt, Completion и Cached. Для многорегионального развертывания предусмотрен децентрализованный кластер с независимыми экземплярами MySQL и Redis на узлах и синхронизацией событий на уровне приложения; такая схема требует отдельного экземпляра MySQL для каждого узла и рассчитана максимум на 50 узлов. README также предупреждает, что кэширование и пакетное обновление могут давать задержку в отображении и обновлении пользовательских лимитов.
Разработчики и команды, которым нужно объединить несколько AI-провайдеров, управлять доступом и расходами, настроить подписки или развернуть отказоустойчивый многорегиональный API-шлюз.
Что внутри
- Единый OpenAI-совместимый API для более чем 30 платформ и моделей.
- Адаптерная архитектура с самостоятельной регистрацией поставщиков без изменения основного кода шлюза.
- Балансировка каналов по весам, автоматическое переключение, охлаждение и ограничения параллелизма и RPM.
- Точное ценообразование по Prompt, Completion и Cached токенам, а также тарификация по запросам.
- Управление токенами с белыми списками моделей, ограничениями IP-подсетей, сроком действия и лимитами.
- Административная панель Vue 3 с дашбордом, тарифами, подписками, журналами и управлением кластером.
Где применять
- Единая точка доступа к нескольким поставщикам моделей для внутренних приложений компании.
- Контроль расходов и лимитов при предоставлении AI API командам, клиентам или отдельным проектам.
- Высокодоступное многорегиональное развертывание шлюза с локальными базами и Redis на каждом узле.
- Создание платных тарифов и подписок с ограничением использования по моделям, токенам, запросам и периодам.
- Централизованное управление API-токенами, каналами поставщиков, доступами и аудитом запросов.
Темы