Detectar las alucinaciones técnicas de la IA: el protocolo de verificación que toda empresa necesita
El modelo de lenguaje que cita una norma que no existe, inventa un coeficiente o confunde una fecha puede costar muy caro en construcción. El protocolo de verificación en cuatro pasos para usar IA sin tragarse sus invenciones.
Toda empresa que usa modelos de lenguaje acaba teniendo su anécdota: la norma citada con número y artículo que no existe, el coeficiente de seguridad inventado con dos decimales, la fecha de entrada en vigor equivocada por un año, la referencia bibliográfica perfectamente formateada y completamente falsa. Se llaman alucinaciones -salidas plausibles y falsas del modelo- y son un comportamiento estructural de la tecnología, no un fallo que vaya a desaparecer la próxima versión. En construcción, donde una cifra o una norma pueden acabar en un plano firmado, la alucinación no es una anécdota: es un riesgo gestionable con protocolo.
Por qué alucinan los modelos (entenderlo para defenderte)
El modelo de lenguaje no consulta una base de datos: genera texto estadísticamente plausible a partir de su entrenamiento. Cuando sabe la respuesta, la reproduce; cuando no la sabe -norma reciente, dato específico, cifra exacta- no dice no lo sé con la fiabilidad que necesitaríamos: genera lo que parecería una respuesta correcta, con el mismo tono seguro. La confianza del modelo no correlaciona con su acierto: suena igual de convencido cuando acierta que cuando inventa.
Los dominios de máximo riesgo del sector tienen nombre propio: la normativa con sus números y fechas -la alucinación reglamentaria es la más frecuente y la más peligrosa: un código mal citado en un proyecto es un error con sello-, las certificaciones y características de productos -el modelo completa la ficha con lo plausible: la prestación inventada es el origen de reclamaciones-, y los datos de proyectos y referencias -la obra que la empresa no hizo, atribuida con solvencia-. La lista de riesgo es corta y conocida: la verificación se concentra donde la invención cuesta.
Los dominios de máximo riesgo en el sector son identificables: normativa con número y fecha -los BOE citados de memoria fallan con frecuencia escandalosa en número, año o estado de vigencia-; valores numéricos normativos -coeficientes, porcentajes, límites, tablas-; jurisprudencia concreta -sentencias con fecha y sala-; y datos de mercado con fecha -precios, índices, estadísticas del trimestre pasado, que el modelo no vio en su entrenamiento-. Todo lo que sea exacto, reciente o numérico: territorio de la verificación obligatoria.
El protocolo de verificación en cuatro pasos
Primer paso -clasificar la salida por riesgo: toda salida de la IA cae en una de tres categorías: contenido general de fondo -explicaciones, estructuras, redacción-, que exige revisión de sentido común; afirmaciones factuales comprobables -normas, cifras, fechas, referencias-, que exigen verificación en la fuente primaria antes de cualquier uso; y contenido con consecuencias -lo que se firma, se envía al cliente o entra en un documento técnico-, que exige verificación completa con responsable nombrado. El mismo texto puede tener las tres: se verifica lo que lo necesita.
La fuente primaria es la regla de oro sin excepción: el artículo citado se comprueba en el BOE o el EUR-Lex -no en otro chat, no en el resumen del buscador-, la prestación del producto en la ficha del fabricante, el dato del proyecto en el expediente. La IA es el borrador brillante, nunca la fuente: el flujo correcto es generación, verificación en origen y entonces uso -y el atajo de verificar con la misma herramienta que generó es la trampa que cierra el círculo del error-.
Segundo paso -verificar en la fuente primaria, nunca en otra IA: la norma se comprueba en el BOE o EUR-Lex consolidado -no en el resumen del modelo ni en el blog que la copió del modelo-; la cifra normativa en el texto oficial; el dato de mercado en la fuente estadística. Preguntar a otro modelo si el primero alucinó es verificar al mentiroso con su hermano: la fuente primaria es la única verificación.
Tercer paso -pedir la cita comprobable desde el principio: las salidas deben pedirse con referencia -artículo, apartado, documento- que permita verificar en segundos; la afirmación sin cita localizable se trata como no verificada por definición. Cuarto paso -registrar la verificación en los documentos con consecuencias: quién verificó qué, cuándo y contra qué fuente. Cuando el documento firmado se discuta -y algún día se discutirá-, la trazabilidad de la verificación es el expediente de defensa.
Las prácticas que reducen las alucinaciones en origen
La reducción en origen es la estrategia avanzada: trabajar con los documentos propios cargados -la norma correcta en el contexto en lugar de la memoria del modelo-, pedir citas comprobables como formato de salida -la respuesta sin referencia verificable se trata como borrador sin valor-, y la temperatura baja del modelo para tareas técnicas -menos creatividad, más fidelidad-. La alucinación no se elimina -es consustancial a cómo funcionan estos sistemas- pero se reduce mucho con disciplina de uso: el protocolo es más barato que el error.
La mejor alucinación es la que no ocurre: trabajar con los documentos de referencia cargados en la herramienta -la norma real, el pliego real, la memoria real- en lugar de preguntar de memoria reduce drásticamente la invención; las instrucciones de no inventar -cita solo del documento, di que no lo sabes si no está- mejoran el comportamiento sin eliminarlo; y las herramientas con acceso a fuentes verificadas -búsqueda en bases oficiales integrada- cierran parte del agujero. Ninguna técnica elimina la verificación humana de lo crítico: la reducen de frecuencia, no de obligación.
La cultura de empresa es la capa final: la regla escrita de que nada factual sale de la IA sin verificación, el derecho y el deber de todos de sospechar del número demasiado redondo, y la ausencia de castigo por detectar el error de la máquina. La empresa donde pillar la alucinación es mérito y no vergüenza tiene el sistema inmune funcionando.
La conclusión: las alucinaciones son el precio de la fluidez de los modelos de lenguaje, y se gestionan como cualquier riesgo del sector: identificación, protocolo, verificación y registro. La IA es el redactor más rápido que ha tenido la construcción; el protocolo de verificación es lo que permite firmar sus borradores. La regla final es de una línea: la máquina escribe, la fuente primaria confirma, el técnico firma.
El precio de la fluidez es la formulación correcta del balance: el modelo que habla con solvencia de todo es el mismo que a veces inventa con solvencia -la fluidez y la fidelidad son propiedades distintas del mismo sistema, y la primera no garantiza la segunda-. La empresa que lo entiende disfruta la fluidez con el protocolo puesto: el borrador rápido con la verificación de siempre es productividad real; el texto brillante sin comprobar es un riesgo con buena tipografía -y en el sector técnico, la tipografía no absuelve-.
Licencia.ai Entrar en Licencia.ai
Más en IA y tecnología
IA para redactar ofertas de licitación: cómo ganar tiempo sin perder el pliego (ni la empresa)
IA para leer pliegos: cómo analizar quinientas páginas de condiciones en una tarde sin tragarse una cláusula
