Dimensionado de hardware e inferencia
Qué GPU necesitas de verdad, con qué cuantización y cuántas peticiones aguanta
2800 € para no descubrirlo por las malas.
Te van a recomendar comprar la tarjeta más cara disponible, porque nadie se equivoca recomendando de más y a nadie le toca pagarla. El resultado son servidores infrautilizados o, peor, servidores que se atragantan el primer día con carga real.
Qué hacemos
Medimos. Cogemos tu caso concreto, tu tamaño de documento y tu concurrencia esperada, y probamos combinaciones de modelo y cuantización hasta encontrar la que cumple tu requisito de latencia con el menor hardware posible.
Te entregamos números, no impresiones: peticiones por segundo sostenidas, latencia en percentil 95, consumo de memoria y margen de crecimiento.
Si el resultado es que con lo que ya tienes te llega, te lo decimos. Es el informe más barato que vas a comprar y a veces te ahorra la compra entera.
Cómo funciona
Dónde vive el dato
Retorno de la inversión
2800 € para no descubrirlo por las malas.
Este servicio no libera horas: evita un gasto o un disgusto. El retorno se ve el día que habría pasado y no pasa.
- Inversión
- 2800 €
- Cómo se paga
- Evitando gasto, no liberando horas
Supuestos de este cálculo (3)
- Este servicio no ahorra horas: evita una compra equivocada
- El sobredimensionamiento típico en proyectos de IA local ronda el 40% del presupuesto de hardware
- Sobre una inversión de 14.000 €, eso son unos 5.600 € que no hace falta gastar
Qué incluye
- Banco de pruebas con tus datos reales o equivalentes
- Comparativa de modelos y cuantizaciones con métricas medidas
- Recomendación de hardware con alternativa de menor coste
- Proyección de crecimiento a 24 meses
- Informe entregable, apto para presentar a dirección
Con qué lo montamos
No trabajamos con una sola herramienta ni te casamos con ninguna. Esto es lo que solemos usar para este servicio y para qué sirve cada pieza — si ya tienes algo montado, partimos de ahí.
- llama-bench / vLLM benchmarkmedición de peticiones por segundo y latencia
- NVIDIA nsightuso real de la GPU
- GGUF / AWQ / GPTQlas cuantizaciones que se comparan en la prueba
- TensorRT-LLMexprimir hardware NVIDIA cuando el caso lo justifica
- Grafanael informe con los números, no con impresiones
Cada una de estas piezas está catalogada en el stack, con lo importante: si se ejecuta dentro de tu empresa o si al meterla tu dato empieza a viajar.
Con qué motor lo movemos
Preferimos montarlo dentro de tu red, con un modelo abierto en tu propio servidor: es la única forma de que el dato no dependa de las condiciones de un tercero. Cuando eso no encaja — por presupuesto o porque no hace falta — trabajamos con modelos low cost adaptados a lo que puedas gastar, o con modelos frontera si la tarea lo pide. Para este servicio proponemos la capa marcada, pero se cambia sin rehacer el trabajo.
En tu servidor
Lo que proponemos aquí
El dato no sale. Es lo que preferimos.
- Cuándo
- Historiales, expedientes, nóminas, contratos, datos de salud, sector público — o cualquier cosa que no puedas explicar en una auditoría si acaba fuera.
- Tu dato
- No cruza el límite de tu empresa. Ni tu proveedor de nube ni nosotros vemos el contenido.
- Cómo se paga
- Inversión inicial en hardware y después coste plano: no sube aunque dupliques el uso.
- LlamaMeta · pesos abiertos
- QwenAlibaba · pesos abiertos
- DeepSeekChina · pesos abiertos
- MistralFrancia · pesos abiertos
- GemmaGoogle · pesos abiertos
- gpt-ossOpenAI · pesos abiertos
API de bajo coste
Potencia de sobra por céntimos.
- Cuándo
- Cuando el dato puede salir y lo que manda es el volumen: clasificar, extraer, traducir, resumir, etiquetar. Miles de operaciones al mes donde lo que cuenta es el precio por unidad.
- Tu dato
- Sale al proveedor que elijas. Te decimos cuál, en qué país están sus servidores y qué dicen sus condiciones de empresa sobre entrenar con lo que les mandas.
- Cómo se paga
- Céntimos por millón de palabras. Es la capa que hace viables los volúmenes grandes sin comprar una máquina.
- Kimi K2Moonshot · China
- DeepSeekChina
- MistralFrancia · Europa
- Gemini FlashGoogle · EE. UU.
- GrokxAI · EE. UU.
- GPT miniOpenAI · EE. UU.
Modelos frontera
Cuando el trabajo es difícil de verdad.
- Cuándo
- Razonamiento largo, código, análisis jurídico o financiero, agentes que encadenan veinte pasos sin que nadie mire. Donde una respuesta mediocre cuesta más de lo que cuesta el modelo.
- Tu dato
- Sale al proveedor. Leemos sus condiciones de empresa y te las resumimos por escrito antes de firmar nada.
- Cómo se paga
- El precio por palabra más alto del mercado — y a menudo el coste por tarea resuelta más bajo, porque acierta a la primera y no hay que revisarlo.
- Claude Opus 5Anthropic · EE. UU.
- GPT-5OpenAI · EE. UU.
- Gemini ProGoogle · EE. UU.
En la práctica casi nunca es uno solo
Lo normal es enrutar: el modelo barato se come el 90% del volumen y solo lo que de verdad es difícil sube al modelo frontera. Si además hay dato sensible, esa parte se queda en el servidor local y nunca entra en el enrutado. Se factura la mezcla, no el modelo más caro — y ahí es donde una factura de IA se divide entre tres o entre diez.
Cómo elegimos el motor, en detalle →Qué necesitamos de ti
- Muestra representativa de la carga real
- Requisito de latencia aceptable y concurrencia esperada
- Inventario del hardware actual
Plazo típico: 1 a 2 semanas
Lo que sueles preguntarte
¿Cuánto tarda en estar funcionando?
1 a 2 semanas, contando desde que tenemos los accesos. El plazo exacto va en la propuesta, no lo dejamos abierto.
¿Salen mis datos de la empresa?
No. Todo el procesado ocurre dentro de tu red y ni tu proveedor de nube ni nosotros vemos el contenido.
¿Con qué modelo de IA lo montáis?
Por defecto lo movemos con un modelo abierto en tu propio servidor, porque aquí el dato no debería salir. Si prefieres API, se cambia — y entonces te decimos exactamente qué sale. Preferimos la seguridad del dato y montar red y sistemas en local, pero trabajamos con las tres capas: modelos abiertos en tu propio servidor, LLM de bajo coste adaptados al presupuesto —chinos como Kimi K2 o DeepSeek, europeos como Mistral, estadounidenses como Gemini o Grok— y modelos frontera como Claude Opus 5 o GPT-5. El motor se cambia en la configuración sin rehacer el trabajo.
¿Cuánto tiene que funcionar para que me salga a cuenta?
2800 € para no descubrirlo por las malas. Este servicio no libera horas: evita un gasto o un disgusto. El retorno se ve el día que habría pasado y no pasa. Los supuestos del cálculo están publicados en esta misma página, para que puedas discutirlos.
¿Qué necesitáis de mi parte?
Muestra representativa de la carga real; Requisito de latencia aceptable y concurrencia esperada; Inventario del hardware actual. Nada más: el resto del trabajo es nuestro.
¿Cuándo NO me conviene contratarlo?
Si ya tienes claro el modelo y el hardware y solo quieres que alguien lo monte, este informe es un paso de más. Ve directo a IA local y on-premise.
¿Puedo mantenerlo yo después, sin vosotros?
Sí. Todo lo que montamos se entrega documentado y con traspaso al equipo. No trabajamos con cajas negras.
¿Encaja con lo que necesitas?
Cuéntanos el proceso concreto y te decimos si este servicio es el que te conviene — o cuál de los otros 48 lo es.