KPMG retiró un informe publicado sobre uso de IA después de que quedó claro que los hallazgos contenían lo que parecen ser alucinaciones generadas por IA, lo que significa que los datos en los que se basaba el informe posiblemente nunca existieron. Para una firma de las Big Four que apuesta su reputación de asesoría en experiencia en IA, retirar un documento de investigación es un golpe significativo a su credibilidad.
El problema central es algo que los desarrolladores e investigadores deben interiorizar: los modelos de IA son particularmente poco confiables cuando se les pide que generen o resuman información sobre la IA misma. El sector se mueve rápidamente, los datos de entrenamiento suelen estar incompletos u obsoletos, y los modelos rellenan con confianza los vacíos con estadísticas que suenan plausibles pero que no tienen base en la realidad. Usar un LLM para ahorrar tiempo en investigación primaria sobre tasas de adopción de IA es exactamente el tipo de tarea donde el riesgo de alucinación es más alto.
Esto importa más allá del aspecto vergonzoso. Los informes empresariales de firmas como KPMG influyen en decisiones de juntas directivas, tesis de inversión y debates de política pública. Si los números subyacentes son fabricados, cada decisión posterior basada en ellos está comprometida. El daño no se limita a KPMG.
La conclusión práctica para cualquiera que produzca investigación o contenido con asistencia de IA: nunca dejes que un modelo sea la fuente de afirmaciones factuales, solo un procesador de fuentes verificadas. Cualquier estadística, cifra de encuesta o dato de mercado que un LLM produzca debe rastrearse hasta una fuente primaria antes de que llegue a un documento publicado. Si no puedes verificarlo, elimínalo.
Los flujos de trabajo de verificación no son gastos generales opcionales: son el proceso mínimo viable para usar IA en contextos de investigación de manera responsable. La retractación de KPMG es un recordatorio público de lo que cuesta saltarse ese paso.