¿Qué es un enrutador LLM y si lo necesitas?
¿Qué es un enrutador LLM? Es una capa que se sitúa entre tu aplicación y varios modelos de lenguaje y decide, por petición, qué modelo debe responder. Este sitio no es uno: ofrece un único modelo detrás de un único endpoint, y la sección de ajuste explica cómo se relacionan ambos.
Actualizado

La idea en términos sencillos
Una aplicación que llama a un modelo de lenguaje tiene un cableado sencillo: una petición sale hacia un proveedor y una respuesta vuelve. Un enrutador añade un paso de decisión en el medio. La petición llega primero al enrutador, que la inspecciona y elige un destino de una lista de modelos, luego la reenvía y devuelve la respuesta. Desde el lado de la aplicación, sigue habiendo un único endpoint y un único formato de petición, normalmente el formato de chat de OpenAI, porque ese formato es el denominador común.
La razón para añadir ese paso es que los modelos difieren. Algunos son baratos y rápidos pero débiles en razonamiento. Otros son fuertes pero lentos y costosos. Algunos siguen reglas de contenido que bloquean ciertos temas, y otros no. Una única elección fija es un compromiso para cada petición. Un enrutador te permite tomar la decisión por petición en lugar de eso.
Ten cuidado con la palabra. La gente la usa para al menos tres cosas diferentes: un mercado alojado que expone muchos modelos detrás de una única clave, una biblioteca o pasarela que ejecutas tú mismo, y un clasificador entrenado que predice qué modelo manejará bien un prompt dado. Comparten la forma de "una puerta de entrada, muchos modelos" pero difieren en quién los opera y cómo deciden.
Lo que realmente hace un enrutador
Selección de modelo
El trabajo principal. Las reglas pueden ser simples: los prompts con menos de una cierta longitud van a un modelo pequeño, los prompts que contienen código van a un modelo de codificación. También pueden ser aprendidas, donde un pequeño clasificador puntúa el prompt y un umbral decide qué modelo lo recibe.
Respaldo
Si la primera opción devuelve un error o agota el tiempo de espera, el enrutador prueba el siguiente modelo de la lista. Esto te protege de que un proveedor tenga un mal momento, a costa de respuestas ligeramente distintas cuando responde el modelo de respaldo.
Distribución de carga
Distribuye el tráfico entre varias claves o despliegues del mismo modelo para que ningún límite de peticiones se convierta en tu techo.
Una interfaz
Diferentes proveedores exponen formatos de petición ligeramente distintos. Un enrutador los normaliza, así que tu código escribe una sola forma de petición. Esta es la función que más notan los equipos día a día.
Control de costes y políticas
Enviar trabajo rutinario a un modelo barato y mantener el caro para casos difíciles es el ahorro habitual. El enrutamiento por políticas es el otro uso: los prompts sensibles van a un proveedor aprobado, y todo lo demás va a otro lado.
Comparación de estrategias de enrutamiento
| Estrategia | Cómo decide | Fortaleza | Debilidad |
|---|---|---|---|
| Reglas estáticas | Palabras clave, longitud, nivel de usuario, endpoint | Predecible y fácil de depurar | No detecta prompts que no se ajustan a tus reglas |
| Clasificador | Un modelo pequeño asigna una puntuación de dificultad o tema | Se adapta a entradas variadas | Necesita datos etiquetados y su propia monitorización |
| Cascada | Prueba un modelo barato, mejora si la respuesta parece débil | Grandes ahorros en tráfico fácil | Los casos difíciles pagan por dos llamadas |
| Solo recuperación | Cambia de modelo cuando falla una llamada | Simple, mejora la disponibilidad | No hace nada por el coste |
Empieza con reglas estáticas. Son las más fáciles de entender, y registrar qué regla se activó te da los datos que necesitas para juzgar si vale la pena construir algo más inteligente.
¿Lo necesitas?
Hazte cuatro preguntas antes de añadir un enrutador.
- ¿Difieren mucho tus peticiones en dificultad? Si cada petición es similar, un modelo bien elegido supera a un enrutador.
- ¿Es la factura del modelo lo suficientemente grande para optimizar? Si gastas unos pocos dólares al mes, el tiempo de ingeniería cuesta más que el ahorro.
- ¿Necesitas protección contra caídas del proveedor? El respaldo es la razón más defendible para un enrutador incluso a pequeña escala.
- ¿Tienen tus prompts diferentes restricciones de contenido? Algunas categorías, como ficción para adultos o roleplay maduro, son rechazadas por muchos servicios de propósito general. Enviar solo esos prompts a un modelo ajustado para uso adulto lícito, y dejar el resto en otro lado, es un caso real de enrutamiento.
Si respondes no a las cuatro preguntas, salta el enrutador. Las capas extra añaden latencia, otro lugar para errores y otro registro que leer.
Dónde encaja esta API
Este sitio lleva el nombre de los enrutadores, así que el punto merece claridad: el servicio no es un enrutador. Es un único modelo de pesos abiertos, ejecutado por un proveedor independiente y ajustado para responder sin rechazos de contenido para uso adulto lícito. No es la API oficial de ningún proveedor de modelos, y no reenvía peticiones a modelos de otros proveedores. Llamas a una única URL base, https://api.llmrouterapi.com/v1, con un único ID de modelo, uncensored.
Esto lo convierte en una buena opción como único destino dentro de un enrutador que ya ejecutas, o como el único backend de una aplicación que nunca necesitó enrutamiento. Como sigue el formato de chat de OpenAI, añadirlo a un enrutador requiere unas pocas líneas. Los métodos son POST /v1/chat/completions y GET /v1/models, y el streaming, las llamadas a funciones y el modo JSON funcionan como en el formato de OpenAI. Es solo texto: sin imágenes, audio, embeddings ni ajuste fino.
Si lo estás comparando con un mercado de múltiples modelos, lee la página alternativa a OpenRouter. Un mercado te da elección entre muchos modelos; esto te da un modelo con un propósito estrecho y un precio fijo.
Un enrutador mínimo en Python
Puedes construir un enrutador útil en pocas líneas con el SDK de OpenAI, porque cada destino habla el mismo protocolo. Este envía prompts marcados para manejo de contenido adulto sin restricciones al endpoint aquí, y todo lo demás a un modelo general cuya dirección y clave proporcionas.
import os
from openai import OpenAI, APIError
adult = OpenAI(
base_url="https://api.llmrouterapi.com/v1",
api_key=os.environ["LLMROUTER_API_KEY"],
max_retries=3,
)
general = OpenAI(
base_url=os.environ["GENERAL_BASE_URL"],
api_key=os.environ["GENERAL_API_KEY"],
)
def route(messages, category):
if category == "fiction_adult":
return adult, "uncensored"
return general, os.environ["GENERAL_MODEL"]
def ask(messages, category):
client, model = route(messages, category)
try:
r = client.chat.completions.create(model=model, messages=messages)
except APIError:
# fallback: try the other destination once
client, model = (general, os.environ["GENERAL_MODEL"]) if client is adult else (adult, "uncensored")
r = client.chat.completions.create(model=model, messages=messages)
return r.choices[0].message.content
Trata la marca de categoría como una decisión de tu propia aplicación, por ejemplo, basada en la función del producto en la que se encuentra el usuario, no como algo adivinado a partir del texto. El enrutamiento explícito es más fácil de probar que el enrutamiento inferido. La regla sobre menores de edad se aplica en este endpoint independientemente de la ruta: el contenido sexual que involucre a menores de edad nunca está permitido.
Detalles operativos al enrutar
Los límites de peticiones son por clave y por proveedor, así que un enrutador debe conocerlos. Una clave completa aquí permite 8 peticiones simultáneas y 300 por minuto, y una clave de prueba permite 2 y 60. La API responde 429 con el código rate_limited o concurrency cuando excedes estos límites. Un 429 con Retry-After: 5 marca una sobrecarga temporal. La reacción adecuada es esperar o encolar, no hacer un cambio inmediato al respaldo, o empujarás todo el tráfico hacia tu respaldo por un pico de cinco segundos.
El streaming merece una nota: una petición en streaming ocupa su plaza de concurrencia hasta que termina el flujo, así que los clientes lentos reducen tu rendimiento. Registra el encabezado X-Request-Id para cada llamada, para que una respuesta defectuosa pueda rastrearse hasta un destino.
En cuanto al coste, el precio es $0,15 por 1M de tokens de entrada y $0,50 por 1M de tokens de salida del crédito prepago, así que un enrutador puede calcular el gasto por ruta a partir del campo usage. Las recargas van de $20 a $500 por cripto, con bonificaciones desde $50; consulta la página de precios. Comienza con la guía rápida de integración, y obtén una clave de API para reclamar $0,50 de crédito de prueba.
Más guías
Preguntas y respuestas
¿Cuál es la diferencia entre un enrutador LLM y una pasarela API?
Una pasarela reenvía y controla el tráfico hacia uno o más proveedores. Un enrutador añade la decisión de qué modelo debe manejar cada petición. Muchos productos combinan ambas funciones.
¿Es esta API un enrutador?
No. Sirve un único modelo, ID uncensored, desde un único endpoint. No enruta entre proveedores y no es la API oficial de ningún proveedor.
¿Puedo usarlo dentro de mi propio enrutador?
Sí. Sigue el formato de chat de OpenAI, por lo que puedes añadirlo como destino con su URL base, clave y ID de modelo.
¿Mejora un enrutador las respuestas?
Por sí solo no. Puede reducir el costo y mejorar la disponibilidad, pero la calidad depende de los modelos a los que enrutes y las reglas que escribas.
Tu clave está a un formulario de distancia
Crea una cuenta, copia la clave, cambia la URL base. Esa es toda la configuración.