La conclusión práctica de una nueva encuesta de VentureBeat Pulse entre 107 empresas (todas con más de 100 empleados) es clara: las compañías se comprometen con infraestructura de IA mucho más rápido de lo que pueden contabilizar lo que ya ejecutan. Solo alrededor del 21% opera IA en producción a escala, sin embargo el 83% de los operadores de GPU reportan utilización del 50% o menos, y apenas el 44% rastrea rigurosamente qué cuesta realmente su cómputo. Si estás escalando IA, la primera solución no es más hardware, sino instrumentación.

La pila actual es predeciblemente familiar: hiperscalers (Google Cloud lidera con 48%, junto a Microsoft, AWS y Oracle) más APIs de modelos de OpenAI, Anthropic y Google. Las "neoclouds" especializadas de GPU que dominan los titulares de infraestructura —CoreWeave, Lambda, Crusoe, Nebius— apenas registran presencia. Pero la intención apunta a otro lado: el área de evaluación más planificada para el próximo año es la de nubes especializadas en IA (45%), un segmento que casi ninguna de estas empresas utiliza actualmente. Aproximadamente un tercio quiere evaluar aceleradores que no sean de Nvidia, y el 64% planea cambiar o añadir un proveedor en los próximos doce meses, el 38% en el próximo trimestre. Ese es un nivel de rotación inusualmente alto para algo tan fundamental.

Cómo los compradores realmente deciden es revelador. La integración con la pila existente (41%) y el costo total de propiedad (35%) dominan la selección, mientras que el costo por millón de tokens apenas llega al 8%. Eso es racional, pero expone una contradicción. Las empresas afirman comprar basándose en TCO, pero la mayoría no puede medirlo. No puedes optimizar el costo total de propiedad cuando la mayoría de tu flota de aceleradores está ociosa y menos de la mitad rastrea el gasto rigurosamente.

La brecha de cómputo en IA: las empresas compran infraestructura más rápido de lo que pueden costearla

Por qué importa: las GPUs ociosas son GPUs caras. Con casi la mitad de los operadores funcionando al 25% de utilización o menos, el margen de eficiencia en las flotas existentes es enorme y en su mayoría no medido. Antes de firmar el próximo contrato de infraestructura, la jugada de mayor retorno es implementar telemetría real de costo y utilización —uso de GPU por carga de trabajo, atribución de costos y seguimiento de retorno— para que las decisiones de cambio de plataforma se basen en evidencia en lugar de argumentos de vendedores.

También hay un cuello de botella en el horizonte que la mayoría de los equipos no está monitoreando. Conforme la inferencia escala, la restricción vinculante se desplaza del cómputo GPU puro al ancho de banda de memoria y capacidad de KV-cache. Las respuestas aquí se dispersan (Dell 31%, Nvidia 16%, el resto fragmentado), y aproximadamente el 18% ni siquiera reconoce la restricción. Si tu hoja de ruta incluye inferencia pesada, factoriza la economía de memoria en la arquitectura ahora, pues reformulará tanto los costos como las opciones de hardware.

Una salvedad sobre los datos: esta es una única ola del Q2 2026 de respondientes autoseccionados sesgados hacia el mercado medio y adoptantes tempranos, así que trátalo como direccional más que preciso. Aun así, la dirección es clara y vale la pena actuar. La brecha de cómputo no es un problema de capacidad que más hardware resuelva, es un problema de visibilidad. Cierra la brecha de medición antes de comprar la siguiente capa, o escalarás la misma ceguera que ya tienes.