Neural Box
КаталогО проектеTelegram ↗
← Все репозитории

Новый проект

RightNow-AI/auto

Rust-компилятор записывает поведение LLM-агентов, извлекает повторяемую логику и выпускает проверенные WebAssembly-артефакты с защищённым исполнением.

Открыть GitHub ↗
Stars
★ 121
Forks
⑂ 11
Язык
Rust
Статус
В канале 1 янв. 1 г.

AI-разбор

Auto записывает трассы работы LLM-агента, включая запросы, вызовы инструментов, аргументы и результаты, а затем преобразует повторяемое поведение в типизированный граф задач. Конвейер выполняет символическое извлечение, дистилляцию остаточных нечётких узлов в небольшие модели, проверку по поведенческому контракту и оптимизацию, после чего создаёт контентно-адресуемый файл .cbin с кодом, моделями и манифестом измерений. Среда исполнения использует два уровня: быстрый скомпилированный путь tier-1 и frontier-модель tier-0 для новых входов; срабатывание защитного условия запускает декомпиляцию, запись трассы и повторную компиляцию. WebAssembly-артефакты объявляют нулевое число импортов, а загрузчик ограничивает доступы, дополнительно применяя лимиты топлива и памяти. В проект входят CLI, локальный реестр с подписью Ed25519, HTTP-сервис, прокси для OpenAI-агентов, демон повторной компиляции, SDK для Python и TypeScript, а также встраивание в Python и Node.js. Ограничения подтверждены самим README: тестовые наборы синтетические, текстовая генерация часто остаётся на tier-0, защитные условия основаны на лексическом сходстве, а семантические стражи и Sigstore пока являются планами.

Кому подойдёт

Инженеры инфраструктуры ИИ, разработчики LLM-агентов и систем WebAssembly, исследователи компиляторов и синтеза программ, а также команды, которым нужны проверяемое исполнение, контроль стоимости и постепенная оптимизация собственных агентских рабочих процессов.

Что внутри

  • Запись и хранение трасс LLM-агентов через Rust-компоненты, Python SDK, TypeScript SDK и прокси без изменений кода агента.
  • Компиляция трасс в типизированное внутреннее представление с эффектами, неопределённостью и ограничениями ресурсов.
  • Символическое извлечение через перебор или LLM-управляемый CEGIS, дистилляция в деревья и MLP, а также закрытый DSL с нативной и WebAssembly-компиляцией.
  • Проверка реализации по контракту, дифференциальное тестирование с эталонной моделью и блокировка выпуска при провале или неизмеримости контракта.
  • Запуск .cbin через tier-1 WebAssembly с нулевыми импортами, лимитами памяти и топлива, конформными защитными условиями, отклонением новых входов и повторной компиляцией.
  • CLI, локальный контентно-адресуемый реестр, подпись Ed25519, HTTP-сервис, демон-ратчет и встраиваемые модули для Python и Node.js.

Где применять

  • Снижение стоимости повторяющихся вызовов LLM в прикладном агенте после записи собственного рабочего трафика.
  • Проверка и безопасное развёртывание скомпилированных участков поведения в изолированной WebAssembly-среде.
  • Создание локального сервиса, который обслуживает известные запросы быстро, а новые случаи передаёт frontier-модели и автоматически дообучает конвейер.
  • Исследование повторяемости поведения агентов, дистилляции, синтеза программ и калибровки защитных условий.
  • Интеграция ускоренного исполнения в приложения Python или Node.js через встроенные модули.

Темы

agentai-infrastructurecompilerconformal-predictiondistillationinference-optimizationllmprogram-synthesiswebassembly

Дальше по теме

Похожие проекты

011 янв. 1 г.

Tura-AI/tura

Открытая среда выполнения на Rust для кодирующих агентов, сокращающая число обращений к модели и расход токенов за счёт макрокоманд и управления контекстом.

★ 599Rust↗
021 янв. 1 г.

pur4v/p2ptokens

Rust-платформа для peer-to-peer вывода LLM: узлы одновременно обслуживают и используют запросы, обменивая вычислительный ресурс через подписанный баланс.

★ 28Rust↗
038 июл. 2026 г.

synthetic-sciences/openscience

Открытый AI-воркбенч для науки: читает литературу, пишет и запускает код, проводит эксперименты и оформляет результат.

★ 3.3kTypeScript↗