NeriaNeria.Meridian

AI Gateway

Neria.Meridian

Слой подключения и учета для современных AI-приложений

Введение в AI Gateway

По мере ускорения внедрения AI приложения эволюционируют от простых вызовов LLM к сложным многокопонентным системам — включая пользовательские приложения, агенты, слои оркестрации и серверы контекста, взаимодействующие с базовыми моделями в режиме реального времени.
Для поддержки этого перехода разработчики внедряют такие протоколы, как Model Context Protocol (MCP), стандартизируя обмен инструментами, данными и решениями между компонентами. Однако инфраструктура нередко отстаёт: возникают сложности с аутентификацией, ограничением нагрузки, безопасностью данных, наблюдаемостью и постоянными изменениями у провайдеров.
AI Gateway решает эти проблемы с помощью высокопроизводительного слоя управления, которая обеспечивает защиту, финансовый учет и наблюдаемость AI-систем на всех уровнях. Будь то обслуживание LLM-трафика, предоставление структурированного контекста через MCP или координация агентов — AI Gateway гарантирует масштабируемую, безопасную и надёжную ИИ-инфраструктуру.
Подробнее об архитектуре →

Пользовательские сценарии

Основные задачи, под которые Meridian спроектирован и уже используется в продуктовых средах.

Создание SaaS или продукта на базе LLM

Бюджетирование клиентов, календарный сброс потребления по подписке, Management API для автоматизации, поддержка множества тенантов.

Внедрение AI-first подхода в компании

Единая инфраструктура и точка входа для всего AI-трафика компании, общие правила управления и наблюдаемости с первого дня.

Самообслуживание команд и контроль затрат

Иерархия Клиент → Команда → Виртуальный Ключ с бюджетами и rate limits. Финансовый контроль расходов в реальном времени.

Отладка и аудит LLM-приложений

Метрики Prometheus, трассировки OpenTelemetry, полные исторические логи запросов и ответов, аудитный журнал изменений конфигураций.

Снижение стоимости и сроков разработки

Инфраструктура надежных LLM-приложений уже реализоава: retries, fallbacks, семантический кэш и телеметрия — на стороне шлюза. Новый сервис подключается за минуты.

Все сценарии →

Индекс десяти сценариев, разложенных по персонам: платформа, CTO, финансы, индивидуальные разработчики.

Быстрый старт

Запустите Docker-контейнер за минуту. Конфигурация опциональна — Meridian запустится со значениями по умолчанию. Дополнительные примеры конфигураций доступны в нашем GithHub-репозитории.

bash

docker run --rm -p 8080:8080 ghcr.io/neria-cloud/meridian:latest
Полное руководство

С чего начать

Быстрый старт

Поднимите Meridian за пару минут — локально или в кластере.

Что такое Meridian

Архитектура, дизайн и принципы, лежащие в основе шлюза.

Полная совместимость

Бесшовная замена для работающих приложений за счет совместимых API

Поддерживаемые провайдеры

Более 15 поддерживаемых провайдеров + поддержка кастомных

Один API — десятки провайдеров

Meridian говорит на универсальном API. Подключайтесь к одной из платформ ниже или используйте формат провайдера напрямую.

OpenAIAnthropicAzureBedrockOpenRouterGeminiLiteLLMLangChainВсе интеграции →

Управление и квоты

Тонкая настройка бюджетов и лимитов. Подходит для команд, приложений внутри команд и биллинга по клиентам.

Иерарихия бюджетов и ресурсов

Иерархия «команда → клиент → ключ» с лимитами на каждом уровне. Ротация и отзыв без перезапуска приложений.

Модель ресурсов

Концептуальное описание для бизнеса

Лимиты на провайдеров

Полный контроль над потреблением

Кэширование и оптимизация затрат

Снизьте расходы на инференс без переписывания приложений. Семантический кэш, лимиты и видимость по командам.

Семантический кэш

Повторные похожие запросы отдаются из кэша на основе эмбеддингов. Порог сходства и другие настрйоки в наличии. Для хранения поддерживаются Redis и Valkey, Qdrant, Weaviate, Pinecode.

Финансовый учет и контроль

Месячные, недельные, еженедельные бюджеты для клиентов, команд и виртуальных ключей. Поддерживаются лимиты по количеству запросов и токенов.

Бюджеты и лимиты

Как управлять многоуровневыми бюджетами для финансвого контроля

Виртуальные ключи

Доступ к inference API и как настроить

Маршрутизация запросов

Как сделать надежность агентов выше чем у LLM-провайдеров

Безопасность и комплаенс

Корпоративные требования встроены в платформу. Прозрачный аудит и интеграция с SIEM.

Аудит и логирование

Каждый запрос фиксируется с полным контекстом: пользователь, ключ, провайдер, токены, стоимость.

Ролевые политики доступа

Настраивайте доступа к сервису с гранулярными правами доступа

Расширенные настройки безопасности

Настраивайте политики доступов для ваших потребоностей

Журнал запросов

Встроенный аудитный журнал и панель мониторинга

Community и Enterprise

Бесплатная редакция покрывает почти всё, что нужно энтузиастам или небольшим проектам. Enterprise лицензия позволяет интегрировать шлюз в политики надежности и безопасности организации, а также управлять и отслеживать бюджеты подразделений и автоматизации.

Community

Безлимитное использование

Полнофункциональный AI шлюз с быстрым и простым развертыванием. Обеспечит удобный общий доступ к AI трафику для своих приложений, агентов и пользователей без потребности настраивать частную сеть

Бесплатно

  • Все основные провайдеры: OpenAI, Anthropic, Gemini и другие
  • Общий LLM API, стриминг, поддержка медиа-форматов
  • Виртуальные ключи, квоты бюджета и лимиты запросов
  • Семантический кэш для экономии и ускорения
  • Библиотека промптов
  • Метрики Prometheus и встроенные панели мониторинга
  • Сообщество в Telegram и GitHub
Установить

Enterprise

Для надежных бизнес-процессов

Идеально для средних и крупных организаций, создающих API-платформу для обработки больших объемов, критически важного для бизнеса API ИИ-трафика

По запросу

  • Всё из Community, плюс:
  • Высокодоступная кластерная конфигурация
  • SAML / OIDC SSO, RBAC, аудит-лог
  • Горизонтальное масштабирование с шадрированием
  • Онлайн-миграция между шадрами
  • OpenTelemetry экспорт, готовые дашборды
  • Шифрование данных во время хранения
  • Приоритетные патчи и разработка
  • SLA, выделенный менеджер
Связаться с нами

Частые вопросы

Как развернуть Meridian?
Community версию можно установить на любой свой доступный сервер. Это можен быть виртуальная машина, арендоважнный физический сервер или в контейнерную инфраструктуру. Для Community версии нужно лишь 2 гигабайта памяти, 2 ядра и от 4 гигабайт свободного места на диске.
Можно ли воспользоваться Meridian без установки?
Мы очень хотим это сделать, такой сервис сейчас находится в разработке.
У нас есть предложение как улучшить Meridian. Куда написать?
Для этого у нас есть репозиторий на Github — GitHub. Обсудить можно в Discussions, а сообщить о проблеме в Issues.
Можно ли с помощью Meridiana создавать картинки и озвучивать текст?
Да, Meridian поддерживает сервисы для создания каринок, поддерживает конвертацию текста в аудио и наоборот.

Neria.Meridian

AI-шлюз для команд, которым нужна скорость и контроль.