Apps / Imágenes Docker
LiteLLM en Docker.
Un API para cada modelo.
LiteLLM es un gateway de LLM open source: expone más de 100 proveedores de modelos (OpenAI, Anthropic, Azure, Bedrock, modelos locales y muchos más) detrás de un solo API compatible con OpenAI, con una UI de admin para gestionar modelos, llaves virtuales y límites de gasto.
docker pull ghcr.io/remarkablecloud/litellm Build actual
1.100.1-r1
Updated Jan 1, 1970
Base
LiteLLM proxy oficial, anclada por digest
Qué trae
Gateway compatible con OpenAI, pareja Postgres, gestión de llaves, healthcheck
Licencia upstream
LiteLLM: MIT
Free to pull and run anywhere. Digest-pinned, updated deliberately; each build is recorded in the changelog.
La imagen
Qué agrega nuestra imagen.
LiteLLM es un gateway de LLM open source: expone más de 100 proveedores de modelos (OpenAI, Anthropic, Azure, Bedrock, modelos locales y muchos más) detrás de un solo API compatible con OpenAI, con una UI de admin para gestionar modelos, llaves virtuales y límites de gasto.
Base anclada por digest
Construida desde `ghcr.io/berriai/litellm@sha256:a3715f...` (LiteLLM 1.100.1, Python 3.13). Anclar por digest mantiene las reconstrucciones reproducibles.
Cerrado desde el primer arranque
Una master key se genera en la primera corrida, así que el API y la UI de admin exigen autenticación de inmediato; nada queda abierto por defecto. Puedes fijar la tuya con `LITELLM_MASTER_KEY`.
Salt key estable
LiteLLM cifra las llaves de proveedor que guarda en la base con una salt key. Generamos una en la primera corrida y la persistimos en el volumen de datos, así las llaves guardadas siguen legibles entre reinicios y upgrades.
PostgreSQL, auto-migrada
Las migraciones Prisma corren al arrancar; modelos, llaves virtuales y gasto se gestionan en la base (sin archivo de configuración que mantener).
Healthcheck
La imagen upstream no trae curl, así que usamos un `HEALTHCHECK` en python sobre `/health/liveliness`. El tag publicado actual es `ghcr.io/remarkablecloud/litellm:1.100.1-r1`.
¿Prefieres saltarte el compose? Despliega LiteLLM a un clic en tu propio VPS: TLS, dominio y base de datos ya conectados.
Despliega LiteLLM a un clicLa guía
Córrelo en producción.
Resumen de producción
Dos contenedores: LiteLLM (puerto 4000 interno) y PostgreSQL, donde viven modelos, llaves virtuales y gasto tras las migraciones Prisma automáticas. La master key se genera en el primer arranque y sale una vez en el log: es el bearer del API y el login de la UI; la salt key que cifra las llaves de proveedor persiste en el volumen. Respalda la base y el volumen juntos, porque una sin la otra deja las llaves ilegibles. Para actualizar, cambia al tag nuevo y recrea.
La guía técnica completa (Compose, variables, hardening, respaldos y upgrades) está disponible en inglés: ver la guía completa.
O sáltate la operación
Aloja LiteLLM en tu propio VPS privado.
Un clic instala esta imagen exacta en un VPS que es solo tuyo, con asistente de dominio y TLS incluido. El mismo servidor corre tantas apps como quepan, sin cargo por app.
FAQ
Preguntas que nos hacen.
¿Necesito una base de datos?
Sí. Esta imagen usa PostgreSQL para la UI de admin, las llaves virtuales y el seguimiento de gasto. El compose independiente la incluye.
¿De dónde sale la master key?
Si defines `LITELLM_MASTER_KEY`, se usa ese valor. Si lo dejas vacío, la imagen genera una en la primera corrida y la imprime una vez en el log; es a la vez el bearer del API y el login de `/ui`.
¿Necesito mis propias llaves de proveedor?
Sí. LiteLLM es un gateway a proveedores externos; agrega tus llaves de OpenAI/Anthropic/etc. y modelos en la UI de admin.
¿Cómo funciona HTTPS si el contenedor sirve HTTP en 4000?
El TLS se termina en el reverse proxy (Traefik en la App Platform), que reenvía al puerto `4000` por la red interna.
¿Qué tag debería correr?
Usa el tag anclado actual, `ghcr.io/remarkablecloud/litellm:1.100.1-r1`. Evita tags móviles para que un redeploy no cambie la imagen debajo de ti.
Your server runs. You sleep.
Fully managed hosting from people who have been doing this since 2001.