La expansión de la inteligencia artificial no solo está transformando la tecnología, sino también la forma en que hablamos sobre responsabilidad, impacto y toma de decisiones. Algunos conceptos ya no pertenecen únicamente al ámbito académico, sino que empiezan a formar parte de conversaciones cotidianas sobre el uso ético de estas herramientas.
Aun así, este nuevo vocabulario puede resultar confuso si no se contextualiza correctamente. Por ello, en SocraTech hemos desarrollado un glosario de términos enfocados en ética, riesgos y gobernanza en la IA, con el objetivo de facilitar la comprensión de estos términos y fomentar un uso más consciente y responsable de la tecnología que se encuentra en constante evolución.
Glosario de términos relacionados con ética, riesgos y gobernanza en la IA
Sesgo Algorítmico / AI Bias
Distorsión en los resultados de un modelo debido a datos o diseño parcial.
Alucinaciones / AI Hallucination
Error típico de modelos generativos que inventan información plausible pero falsa.
Alignment Problem
Desafío de asegurar que los objetivos de una IA estén alineados con los valores humanos o los objetivos para los que se quiere destinar esa IA. Las decisiones que toma un modelo pueden no tener en cuenta a los seres humanos o los objetivos específicos para los que se crea y, generalmente, se trata de que las IAs estén alineadas con nuestra forma de pensar, teniéndonos en cuenta, además de cumplir con sus objetivos.
Data Poisoning
Manipulación deliberada de los datos de entrenamiento para corromper un modelo.
Model Collapse
Fenómeno en el que los modelos entrenados con datos generados por otras IAs se degradan progresivamente. En algún momento, una IA alucina datos y esos datos son incorrectos e inadecuados para alimentar otro modelo.
Prompt Injection
Ataque que manipula un modelo de lenguaje introduciendo instrucciones maliciosas ocultas.
Red Teaming
Evaluación deliberada de sistemas de IA mediante pruebas adversarias para detectar vulnerabilidades. Se usa en términos de cualquier sistema informático, no solo de IA.
Datos Sintéticos / Synthetic Data
Datos artificiales generados por IA para entrenar modelos sin usar información real sensible.
Cross Prompt Injection
Ataques por los que una fuente indirecta añade un texto a un prompt, haciendo que revele información sensible para contener riesgos.
La inteligencia artificial se está convirtiendo en una de las tecnologías más influyentes de nuestro tiempo. Su presencia se extiende desde aplicaciones cotidianas hasta entornos profesionales, transformando la manera en que trabajamos, aprendemos y tomamos decisiones. Comprender qué es realmente la IA y cómo funciona ya no es algo exclusivo de expertos, sino que cada vez es más importante para cualquier persona que quiera desenvolverse con soltura en el entorno digital actual.
En SocraTech, creemos que aprender sobre inteligencia artificial es también aprender a entender el presente y prepararse para el futuro. Por eso impulsamos programas formativos pensados para acercar esta tecnología a distintos perfiles, desde quienes quieren iniciarse hasta quienes buscan aplicarla en su entorno profesional.
Entre nuestras formaciones centradas en IA destacan:
Nuestro objetivo es que puedas descubrir cómo aprovechar el potencial de la inteligencia artificial de forma práctica y aplicada, incorporándola a tu día a día y a tu desarrollo profesional.
