Un gateway de modelos de código abierto en Rust que enruta solicitudes y convierte tu tráfico en un modelo optimizado
Un nuevo gateway LLM de código abierto unifica modelos autohospedados, de frontera y abiertos detrás de una única API, añade una sobrecarga de submilisegundos, no cobra margen sobre tokens y puede usar tráfico opcional para enrutar de forma más inteligente o entrenar un modelo personalizado.











