Hoy en día con el avance de la IA detectar IA en textos se convierte en una funcionalidad clave.
Identificar si un texto ha sido generado por uno de los modelos de IA como Claude, ChatGPT, Gemini o Copilot es un requisito de seguridad y control de calidad fundamental para profesionales y empresas, tanto en en entornos empresariales como académicos.
Cada día las capacidades de la IA aumentan y hace que detectar si un texto ha sido redactado con IA sea muy complicado.
Para detectar IA en textos necesitaremos herramientas avanzadas que verifiquen el texto mediante métricas estadísticas concretas.
Para funcionar, las herramientas verificadoras de textos se basan en diferentes métricas:
- Perplejidad (Perplexity): Mide el grado de «sorpresa» del algoritmo ante la elección de palabras. La IA tiende a usar secuencias de alta probabilidad (baja perplejidad). Una de las formas de detectar si un texto está redactado con IA es medir las secuencias de palabras.
- Ráfaga (Burstiness): Evalúa la variación en la longitud y estructura de las oraciones. Los humanos escriben con alta ráfaga (mezclando frases cortas y largas); la IA produce estructuras más uniformes. De esta forma se puede inferir si un texto está generado por IA, dependiendo de la uniformidad de las frases.
- Modelos de aprendizaje automático (Machine Learning): Analizan múltiples características lingüísticas, sintácticas y estadísticas del texto para identificar patrones que aparecen con mayor frecuencia en textos humanos o generados por IA. El modelo se entrena con ejemplos que ya han sido clasificados y, comparar los textos de entrenamiento con el nuevo texto. Con esto calcula una probabilidad de que presente características asociadas a contenido generado por IA.
Para cualquier organización va a ser muy importante poder detectar si un texto está generado por IA y así mantener la integridad de los datos en los flujos de trabajo de la organización (un aspecto que estandarizamos en las formaciones corporativas sobre IA generativa de SocraTech).
Para lograr este objetivo, hoy vamos a analizar las herramientas más importantes para detectar textos generados por IA.
Antes de continuar hay que resaltar que las herramientas varían sus resultados en cuanto al tipo de texto. Al hacer las pruebas hemos encontrado que en los textos de carácter técnico las herramientas han detectado un mayor número de falsos positivos.
Es decir, el resultado de la herramienta cambia según el tipo de texto que estemos usando. La herramienta no se va a comportar de la misma forma al evaluar textos de divulgación, que técnicos, que otros tipos diferentes.
Top herramientas gratuitas para detectar IA en textos
Vamos a detallar las herramientas de verificación de textos más accesibles, evaluando especialmente su precisión algorítmica para evitar falsos positivos, es decir los casos donde por error se clasifica un texto redactado por humanos como sintético.
Para crear el ranking hemos probado textos reales con textos sintéticos y estos han sido los resultados.
1. Copyleaks AI Content Detector
Enlace: Copyleaks AI Detector
Fiabilidad: 9/10
Características técnicas:
- Funciona bien para textos en español.
- Es capaz de distinguir entre párrafos humanos y sintéticos dentro de un mismo documento (texto híbrido).
- En las pruebas ha tenido una tasa muy baja de falsos positivos, en comparación con otras herramientas.
Limitaciones: Tiene restricciones en el número de consultas diarias en su versión gratuita.
2. Hive Moderation: Análisis avanzado para detectar IA en textos
Enlace: Hive Moderation AI Detection
Fiabilidad: 9/10
Características técnicas:
- Plataforma orientada a la revisión de textos a nivel corporativo y gran escala.
- La herramienta consigue una gran precisión al diferenciar entre texto humano y texto generado por IA.
- Realiza detecciones de textos generados por IA de herramientas muy modernas en el momento de escribir este post, como Claude 3.5.
Limitaciones: En su versión gratuita funciona bien, pero su verdadera funcionalidad es la API que permite integrarla en herramientas de desarrollo propio.
3. Scribbr: Precisión estructurada para detectar IA en textos
Enlace: Scribbr AI Detector
Fiabilidad: 8.5/10
Características técnicas:
- El motor de detección de esta herramienta viene respaldado tecnologías similares a Turnitin, una herramientas de software líder en software antiplagio que se utiliza mucho en centros académicos.
- Alta eficacia filtrando textos híbridos, donde hay texto humano y texto generado también por IA.
- Funciona especialmente bien en los casos donde se le aportan traducciones generadas por IA, que han sido procesadas y modificadas por una IA para mejorar el estilo de redacción.
Limitaciones: Esta herramienta tiene un límite en cuanto a la cantidad de texto que puede procesar. Para poder usar esta herramienta para textos largos habrá que ir pasando el texto por trozos.
4. GPTZero
Enlace: GPTZero
Fiabilidad: 8.5/10
Características técnicas:
- Es una de las herramientas más conocidas.
- Inicialmente fue creada para textos académicos.
- Cuando evalúa un texto desglosa los resultados en cuanto a perplejidad (la probabilidad de las palabras) y ráfaga del texto (la estructura de los párrafos).
- Resalta en un mapa de calor las frases específicas identificadas artificiales.
Limitaciones: El modelo base está entrenado con textos en inglés, por lo que tiene sesgos en esa sintaxis, por lo que no está especialmente orientado para textos en español.
5. ZeroGPT: Interfaz directa para detectar IA en textos
Enlace: ZeroGPT
Fiabilidad: 8/10
Características técnicas:
- Esta herramienta está entrenada con textos generados por IA, específicamente por los modelos GPT (GPT-3.5, GPT-4).
- Al presentar los resultados, indica un porcentaje global de probabilidad de que el texto sea sintético (ej. «85% AI GPT»).
- Resalta el texto sospechoso, lo que permite fácilmente evaluar bloques de texto.
Limitaciones: Esta herramienta ha presentado numerosos falsos positivos en las pruebas.
Retos técnicos: Por qué detectar IA en textos no es infalible
Para poder utilizar este análisis de la forma adecuada, es vital entender que ninguna herramienta da una fiabilidad del 100%.
Los modelos de IA se encuentran en una carrera evolutiva constante y es fácil que en cualquier momento determinado las herramientas como Claude, ChatGPT, Gemini o Copilot vayan por delante de las herramientas que detectan textos generados por IA.
Existen una serie de técnicas al generar los textos que van a dificultar la detección:
- Prompting de ofuscación (Prompting estilístico): Los usuarios avanzados utilizan instrucciones específicas (prompts) para alterar la perplejidad y la ráfaga del output. Por ejemplo, si en el prompt le pedimos a la IA que genere el texto usando un «tono humano imperfecto«, que incluya jerga coloquial, o que estructure las oraciones de forma asimétrica, las herramientas de verificación pierden eficacia.
- Traducción en cascada: Generar el texto en un idioma (ej. inglés), traducirlo a un idioma intermedio, como por ejemplo alemán y finalmente traducirlo al español hará que sea muy complicado poder establecer medidas estadísticas que permitan afirmar con precisión que un texto esté generado por IA.
- Parafraseo sintético cruzado: Utilizar una IA para generar el contenido inicial, y luego usar otra IA para para reescribirlo de nuevo hará que las medidas estadísticas que se usan para detectar texto escrito por IA pierdan eficacia.
Mejores prácticas corporativas al detectar IA en textos
Dentro de la empresa, será fundamental integrar la verificiación técnica de textos, siempre teniendo en cuenta los fallos y falsos positivos que pueden tener las herramientas.
No es realista hoy en día establecer una política de «cero IA» en la empresa, pero hay que establecer un sistema de control para detectar IA en textos, y así evitar problemas como alucinaciones en textos que se van a utilizar de forma profesional.
Como en tantas otras ramas la prohibición no funciona. Establecer una política de «cero IA» va a anular el incremento de productividad que proporcionan estas herramientas.
Entonces, ¿cómo podemos integrar la IA de forma segura en la generación de textos y en nuestros flujos de trabajo? Vamos a ver algunas estrategias que podemos implantar en nuestro día a día.
- Verificación múltiple: En vez de usar solo una de estas herramientas es conveniente probar el texto con varias de estas herramientas y comparar los resultados. Esto nos ayudará por ejemplo a detectar casos como falsos positivos que pueda tener una de las herramientas.
- Revisión asimétrica (Human-in-the-loop): Una vez que hemos usado las herramientas de verificación de IA para para detectar contenido sospechoso, es conveniente que un humano haga una nueva revisión. Si es posible lo ideal es que la persona que haga la revisión sea un especialista en la materia que trata el texto. Se puede establecer a una persona encargada de realizar esta tarea.
- Definición de umbrales de tolerancia: Es complicado hoy en día trabajar sin utilizar la IA en absoluto. Se puede establecer una normativa en la que se indique qué nivel uso de IA es tolerable, según el nivel de importancia del texto generado. No es lo mismo un post para redes sociales que un texto que sea parte de un trabajo que se va a entregar a un cliente.
El uso seguro de las herramientas depende de la normativa interna de la empresa. En este post comentamos cómo establecer correctamente una política de uso interno de IA en la empresa.
El futuro de detectar IA en textos en la empresa
Con el tiempo y los avances constantes en lo modelos de IA, la frontera de distinción entre un texto generado enteramente por humanos y otro sintético se va a ir reduciendo, hasta el punto de que acabarán siendo indetectables.
El objetivo operativo de las empresas ya no puede ser prohibir el uso de la IA, sino establecer unas normas de uso seguro y razonable.
Es fundamental que los empleados conozcan en profundidad las herramientas, sepan hacer un uso avanzado de ellas y conozcan y sepan detectar los problemas que conllevan.
La formación en herramientas IA es la piedra angular del funcionamiento seguro en las empresas. Dominar estas herramientas es clave para integrar la IA en los procesos de la empresa.
En SocraTech ofrecemos cursos para empresas donde enseñamos a usar la IA a toda la empresa o por departamentos, ofreciendo una formación práctica basada en casos de uso reales para que todos los empleados sepan utilizar las herramientas de forma avanzada, lo que incluye saber reconocer y solucionar todos los problemas que hemos mencionado.
