La inteligencia artificial generativa permite redactar propuestas comerciales, resumir contratos, analizar documentación y preparar informes en una fracción del tiempo que requerían estas tareas. Pero nunca debemos fiarnos del contenido que genera la IA, siempre debemos establecer protocolos de revisión, hoy nos centramos en el protocolo human in the loop.
Las IAs tienen sesgos. Uno de sus sesgos al generar respuestas es que tratan de sonar convincentes y tratan por todos los medios de no contestar “no tengo esa información”, incluso cuando no saben las respuestas o no disponen de información suficiente para responder correctamente.
Las respuestas pueden sonar convincentes, pero contienen cifras incorrectas, referencias falsas, interpretaciones sesgadas o conclusiones que no están respaldadas por los datos de entrada, como hablamos en nuestro post sobre los sesgos de la IA.
En el entorno laboral, que la IA nos genere información incorrecta puede causar un problema tanto para nosotros como para nuestra empresa.
Entregar documentación generada por IA a un cliente puede traer problemas de credibilidad para nuestra empresa. Si un balance anual interno es incorrecto, puede traer problemas de planificación.
Una de las mejores formas de lidiar con este problema es hacer siempre una revisión humana, con el nivel de detalle que corresponde a la importancia del trabajo que estamos haciendo.
Este es el protocolo Human-in-the-Loop (HITL): se trata de incorporar la revisión humana en el momento en el que resulta necesario controlar la calidad, los riesgos o las consecuencias de una decisión.
Mediante el protocolo de revisión humana vamos a establecer qué debe comprobarse, quién tiene la responsabilidad de hacerlo y qué trabajos se deben revisar antes de utilizar el resultado generado por una Inteligencia Artificial.
El peligro de la automatización sin revisión: las alucinaciones de la IA
Una alucinación de IA se produce cuando un modelo genera información falsa, inventada o no respaldada por las fuentes disponibles, presentándola de una forma que puede parecer convincente.
Puedes profundizar sobre qué son las alucinaciones y cómo prevenirlas en nuestro post sobre alucinaciones en inteligencia artificial.
Los modelos de lenguaje siempre tratan de generar una respuesta y si no tienen las respuestas en la información que han usado para entrenar esa IA, lo que suelen hacer es inventársela.
Hay muchos casos donde la IA se puede inventar información. Por ejemplo, cuando trata de completar información ausente, interpretar mal una instrucción o combinar datos correctos con afirmaciones incorrectas.
La respuesta generada puede contener errores, aunque puede estar bien redactada, tener una estructura impecable y contener solo uno o dos datos falsos.
Si no se hace revisión humana detallada, es muy fácil que estos datos falsos pasen inadvertidos.
¿Qué consecuencias puede tener en una empresa?
- Riesgo financiero: una propuesta comercial puede incluir descuentos no autorizados, importes incorrectos o márgenes calculados de forma errónea.
- Riesgo jurídico: un borrador contractual puede citar una norma totalmente inventada.
- Pérdida de confianza: un documento generado para un cliente puede contener información equivocada sobre precios, condiciones o compromisos de la empresa.
- Sesgos en decisiones sobre personas: si usamos una IA para filtrar candidaturas, la IA puede incluir sesgos injustificados o ignorar información relevante.
No todos los errores que produce la IA tienen el mismo nivel de riesgo. No es lo mismo un error en un post de redes sociales que un error en unas cuentas anuales que lleven a tomar una decisión crítica basada en información falsa.
El riesgo depende de la tarea. Por eso, al utilizar IA para hacer una tarea, hay que plantearse qué errores son posibles, qué consecuencias tendrían y qué controles mínimos hay que establecer.
¿Qué Human in the Loop (HITL) y por qué importa?
Human-in-the-Loop puede traducirse como «humano en el bucle».
Este protocolo define que una persona debe intervenir en el proceso de generación de una tarea por parte de la IA.
La persona debe controlar al menos una parte del proceso de generación de la información con la IA.
Puede intervenir en la fase de revisión de resultados, corregir errores, aportar criterio o autorizar acciones.
El protocolo también define las condiciones en las que un resultado puede utilizarse, qué comprobaciones deben realizarse y quién tiene que dar el visto bueno para que se pueda utilizar.
Por ejemplo, una IA puede preparar el primer borrador de una propuesta comercial, pero antes de enviarlo al cliente, una persona debe revisar los precios, las condiciones contractuales y los compromisos incluidos.
La revisión lleva tiempo, pero siempre va a ser mucho menos tiempo que realizar la tarea original sin utilizar Inteligencia Artificial.
¿Qué ventajas tiene el protocolo human in the loop?
El hacer supervisión humana nos aporta una serie de ventajas:
- Control de calidad: Una persona experta en la materia puede detectar fácilmente errores, puede contrastar las fuentes utilizadas o detectar omisiones.
- Gestión del riesgo: El nivel de control y tiempo dedicado a revisión puede adaptarse a la gravedad de los errores posibles. Habrá tareas que requieran una supervisión somera y otras, de mayor riesgo, que requieran validaciones más exigentes.
- Responsabilidad y trazabilidad: La empresa puede establecer a una persona responsable de hacer las revisiones, qué comprobaciones debe hacer y quién debe autorizar el uso final de la información generada.
- Cumplimiento normativo: Se puede añadir a la revisión que se supervise y se valide en términos de protección de datos y a nivel legal.
¿Cuál es el marco legal de human in the loop?
El Reglamento europeo de Inteligencia Artificial (AI Act) establece en el artículo 14, donde se regula la supervisión humana de los sistemas de IA de alto riesgo, medidas que deben permitir comprender sus capacidades y limitaciones, vigilar su funcionamiento e intervenir cuando sea necesario.
Además, el artículo 22 del Reglamento General de Protección de Datos (RGPD) aborda las decisiones individuales basadas únicamente en el tratamiento automatizado que producen efectos jurídicos o afectan significativamente de modo similar a una persona, con determinadas excepciones y garantías.
Desde el 2 de agosto de 2026 se aplican las obligaciones pertinentes del artículo 50, incluidas determinadas obligaciones relacionadas con contenido generado por IA y con la interacción con sistemas de IA. Su alcance depende del supuesto concreto y contempla excepciones.
En resumen, el protocolo human in the loop debe diseñarse acorde al riesgo y a las obligaciones aplicables, no presentarse como una garantía universal de cumplimiento legal.
Cómo estructurar un flujo de control de calidad para IA en la empresa
Para que human in the loop sea verdaderamente eficaz no basta con hacer una revisión una vez se ha generado la respuesta final, sino en los diferentes pasos del flujo de trabajo.
Hay muchos errores que pueden preverse si vamos revisando el proceso de generación del trabajo.
1. Antes de empezar: auditar el contexto y los datos de entrada desde el primer prompt
Siempre debemos dar un buen contexto a la IA evitando ambigüedades, aportando ejemplos de lo que queremos obtener, ir iterando a través de varias respuestas en lugar de pedir todo lo que necesitamos en un solo prompt…
En esta fase del trabajo conviene comprobar tres aspectos:
- Verificación de fuentes: Debemos revisar que las bases de conocimiento sean correctas. En caso de usar documentos corporativos deben estar actualizados. Por ejemplo, debemos revisar si vamos a usar un documento con tarifas anticuadas para generar una propuesta comercial basada en una anterior.
- Protección de datos: Hay que tener muy en cuenta si estamos introduciendo información sensible o confidencial en una herramienta. Puede que haya que anonimizar o eliminar información personal o confidencial.
- Protegernos de ataques: Un ataque de inyección de prompts se produce cuando tenemos instrucciones ocultas, por ejemplo, en un documento. Antes de usar un documento en una tarea podemos revisarlo para comprobar que no incluya instrucciones ocultas para la IA.
2. Al trabajar en la tarea: restricciones y formatos que faciliten la revisión
Se pueden reducir o mitigar los errores de la IA con instrucciones específicas como “En caso de que no tengas la información, responde ‘no tengo esos datos’. Nunca te inventes información”.
Estas técnicas ayudan a controlar el proceso, pero no garantizan que la respuesta sea veraz.
- Restricciones negativas: El prompt indica qué debe hacer la IA si no dispone de una información. Por ejemplo: “Analiza exclusivamente la información contenida en el documento proporcionado. Si no aparece la fecha de vencimiento, responde «dato no encontrado». No deduzcas fechas ni completes información ausente. Distingue los datos explícitos de cualquier interpretación.”
- Parámetros de configuración: Los modelos de IA como Claude, ChatGPT, Copilot o Gemini se pueden configurar, lo que permite ajustar las respuestas a lo que realmente necesitamos y a nuestra forma de trabajar, pero no convierte al modelo en una fuente infalible, ni garantiza la ausencia de alucinaciones.
- Salidas estructuradas: Conviene definir cómo queremos la salida, por ejemplo, una tabla o una hoja de cálculo. Lo ideal es usar un formato que nos resulte cómodo para verificar los datos.
3. Revisión final: establecer objetivos de validación humana
La revisión final debe centrarse especialmente en los elementos que pueden ser más problemáticos en caso de ser erróneos.
No todas las tareas necesitan el mismo nivel de control. Una revisión eficaz puede incluir:
- Contrastar cifras, fechas, nombres y cláusulas.
- Comprobar que no se omite información esencial.
- Comprobar que el documento responde al objetivo inicial.
- Confirmar que se respetan las políticas internas y los requisitos legales aplicables.
- Un registro de que la tarea está revisada y aprobada por un responsable: persona que hizo la revisión, fecha, versión del documento y comprobaciones realizadas.
¿Qué se debe validar? Desglose por casos
El protocolo human in the loop debe convertirse en una rutina práctica más en el proceso de trabajo.
La empresa puede establecer listas de comprobación adaptadas a los tipos de entregables que genera.
A continuación vamos a desgranar los casos más relevantes.
Verificación de datos numéricos y financieros
Las IAs tienden a fallar en ocasiones cuando tienen que manejar grandes cantidades de datos, como los que puede tener una hoja de cálculo extensa.
No se debe suponerse que todos los cálculos que ha realizado la IA son correctos. Antes de utilizar cifras en un documento comercial o financiero:
- Realiza un muestreo revisando cierta cantidad de cálculos como sumas, porcentajes, descuentos y márgenes.
- Contrasta los datos generados con datos bancarios o cifras internas oficiales.
- Comprueba fechas, plazos y cronogramas, incluyendo días no laborables o restricciones inherentes al proyecto.
- Verifica las unidades, divisas, los periodos de comparación y la procedencia de cada indicador.
- Asegúrate de que las conclusiones que surgen de la interpretación de las cifras reflejan los datos disponibles.
Auditoría del tono corporativo y las políticas de marca
Un texto puede ser correcto en cuanto al contenido, pero no resultar adecuado para la empresa o el destinatario.
- Tono y estilo: que el lenguaje utilizado sea coherente con nuestra marca, o con el contexto de la relación con el destinatario.
- Naturalidad: hay que vigilar que no haya información repetida o estructuras que hagan difícil la lectura.
- Adecuación al mercado: que el trato, el vocabulario, las expresiones y los formatos sean adecuados a los destinatarios del contenido.
- Sesgos: que no aparezcan generalizaciones, estereotipos o criterios discriminatorios.
- Coherencia: que el nivel de formalidad y la terminología sea uniforme a lo largo del texto.
Auditoría legal, privacidad y transparencia
La revisión jurídica, donde una persona que sea experta en legislación debe revisarlo, centrándose en:
- Normativa y referencias: comprobar las citas legales, su vigencia y su aplicación al caso concreto. Las citas pueden llegar a ser completamente alucinadas.
- Datos personales: verificar que el tratamiento de datos respeta la legalidad y las políticas de la empresa.
- Información confidencial: revisar que no se revelen datos críticos de clientes, empleados, proveedores u otros proyectos.
- Transparencia: evaluar si el uso de IA requiere informar al destinatario o identificar el contenido generado, de acuerdo con la normativa aplicable.
- Propiedad intelectual: revisar las fuentes, los permisos de uso y los posibles riesgos antes de publicar o distribuir el contenido.
- Autorización: comprobar que la persona que aprueba el documento tiene competencia para revisar la información con la que estamos trabajando.
Cómo crear la cultura del protocolo human in the loop en la empresa
Hay algunas medidas que podemos tomar para fomentar el uso del protocolo de revisión humana en las tareas.
- Definir qué debe revisarse: Podemos definir claramente qué es necesario auditar al hacer revisión humana como qué datos contrastar, qué errores buscar y qué condiciones impiden aprobar el documento.
- Reconocer el esfuerzo: Se puede reconocer públicamente a las personas que se encargan de hacer la revisión humana, para fomentar la importancia del protocolo.
- Autoridad para intervenir: Las personas encargadas de la revisión deben tener autoridad y autonomía para utilizar su criterio.
- Tiempo para revisar: La revisión no es efectiva si no se le dedica el tiempo adecuado para comprobar y aprobar los resultados.
- Formar en los límites de la IA: Los revisores deben conocer y entender los distintos problemas que genera la IA para poder detectarlos y corregirlos. La forma más rápida de que estén al día es mediante una formación.
- Establecer consecuencias: En caso de que la revisión no sea adecuada, los empleados pueden estar al tanto de las consecuencias si se entrega un documento con alucinaciones, acorde con la importancia de la información.
Ejemplo de plan de implantación del protocolo human in the loop
- Seleccionar los procesos prioritarios: Para empezar a implantar el protocolo es importante identificar las tareas críticas donde se usa la IA y un error tendría consecuencias significativas.
- Definir los puntos de control: Establece qué debe comprobarse antes, durante y después de utilizar la IA.
- Asignar responsables: Determina quién debe revisar el trabajo y dar su visto bueno. Puede ser un jefe de equipo o de departamento, o la persona más adecuada en cada caso.
- Documentar y formar: Se puede establecer una formación orientada a este protocolo, donde se vean ejemplos de casos de error y se establezcan listas de comprobación adaptadas a las tareas de cada departamento.
- Medir y mejorar: Para crear un know-how interno se pueden registrar los errores detectados, el tiempo de revisión, las incidencias posteriores y el coste en tiempo del proceso.
Se puede medir la eficacia del protocolo human in the loop mediante este registro, donde se defina el tiempo y se contraste con los errores que se han encontrado.
Normalmente este protocolo es una medida para evitar problemas serios que van a tener un costo en cuanto a imagen de marca si se llegan a producir.
Estandariza el control de calidad de la IA con SocraTech
Para aprender cómo implantar herramientas de inteligencia artificial y los protocolos de uso seguro se puede crear una formación adaptada a tu empresa y a tus objetivos específicos.
La formación debe enseñar a los equipos todo lo necesario para trabajar de forma profesional y segura con IA, desde diseñar instrucciones claras y crear un contexto relevante hasta contrastar resultados y establecer protocolos de revisión especializada.
Desde SocraTech organizamos formaciones totalmente adaptadas a las necesidades de tu organización. Desarrollamos formaciones prácticas que trabajan sobre casos de uso reales que presentan problemas análogos a los del día a día de los trabajadores.
La formación puede adaptarse a los departamentos y procesos de cada organización para que los empleados aprendan a utilizar herramientas como ChatGPT, Claude, Copilot y Gemini donde se establezcan criterios de calidad y revisión.
