¿Cómo nos manipula la Inteligencia Artificial? Es fundamental cuestionar cómo funcionan las herramientas que utilizamos en nuestro día a día, especialmente aquellas que son fundamentales, que nos aportan información, nos dan nuevas formas de pensar y nos ayudan a tomar decisiones.
Para empezar, una IA no tiene sentimientos, consciencia, ni una agenda oculta para manipularte, pero las personas que las crean sí que tienen un objetivo: ganar dinero.
Para poder ganar más dinero, los creadores querrán que usemos su modelo de IA, ya sea Claude, Gemini, ChatGPT… Estos modelos buscan que los usemos, que nos “enganchemos” y nos suscribamos a su servicio.
En este post voy a tratar de hacer un análisis claro y detallado de cómo funciona una IA y cuáles son los sesgos más destacados a la hora de formular respuestas.
¿Cuáles son los sesgos de la IA?
Los LLMs (Modelos de Lenguaje) aprenden procesando cantidades masivas de texto creado por humanos. Por lo tanto, los mensajes que devuelve la IA tienen los mismos sesgos que los humanos que los escribieron:
- Alucinaciones: Las alucinaciones ocurren constantemente porque están diseñadas para sonar coherentes y seguras, por lo que si no saben una respuesta nunca van a decir “no sé”, lo que van a hacer es inventarse información para poder formular una respuesta, aunque sea algo totalmente inventado y sin sentido.
- Sesgo de Anclaje (Anchoring Bias): Las IAs tratan de agradarnos y que tengamos buenas sensaciones al usarlas, así que tienden a “seguirnos la corriente”. Según cómo escribamos un prompt, teniendo en cuenta el tono, la premisa o la intención con la que está escrito, la respuesta tenderá a seguir esa información inicial. Por ejemplo, si en un prompt con nuestro vocabulario damos a entender que un libro es malo, la respuesta tenderá a estar de acuerdo contigo y criticar ese libro, buscando argumentos que apoyen tu tesis, en vez de un análisis objetivo. En muchas ocasiones esto crea “cámaras de eco”, ocasiones donde la misma información, verdadera o falsa, se repite en muchos lugares, ayudando a reforzar nuestras creencias.
- “Cantidad” equivale a “verdad”: Las IAs tienden a dar más peso al contenido que aparece repetido en muchas ocasiones en internet, pero que una información se repita mucho no quiere decir que sea correcta (como por ejemplo teorías de conspiración sin pruebas). Si una idea falsa aparece repetida muchas veces en foros y webs, es muy posible que la IA la reproduzca como cierta y la utilice, frente a una información que sea correcta, pero aparece mencionada un menor número de veces. En muchas ocasiones esto lleva a un sesgo donde ideas falsas se repiten mucho, incluso por medios “respetables” y se terminan aceptando como verdaderas.
- Sesgos en los datos originales (Representación): En muchas ocasiones la información que se ha usado para alimentar a la IA contiene prejuicios históricos, racismo, sexismo o estereotipos culturales, la IA puede reproducirlos si no se le aplican filtros de seguridad estrictos.
- Sesgo de idioma y cultura: En origen, la mayor parte de los datos de entrenamiento están en inglés, por lo que tendrán los sesgos de las culturas que han creado originalmente estos textos, por lo que algunas de las respuestas no se ajustan a otros contextos culturales. En español, la IA muchas veces usa expresiones de diferentes países de habla hispana, seguramente por ser el origen del texto que están reproduciendo.
- Sesgo de Seguridad o Sobrecensura: Al crear las IAs ya se han añadido sesgos para que no generen contenido dañino, tóxico o ilegal. Hay unos filtros de seguridad férreos y bien definidos, pero que también generan un sesgo de precaución extrema. Por ejemplo, si se tratan temas relacionados o tangenciales con temas políticos, históricos o sociales, es posible que se niegue a responder preguntas legítimas e inofensivas, solo por poder ser consideradas sensibles.
- Sesgo de Verborrea o Longitud (Verbosity Bias): En general, cuando hablamos con una IA, se suelen valorar más las respuestas largas y detalladas. Al entrenar una IA, los entrenadores valoran mejor este tipo de respuestas, por lo que tenderá a dar explicaciones largas incluso cuando no son necesarias. Por lo tanto, las IAs tienen a desarrollar un sesgo donde se equivale una mejor respuesta a más palabras, lo que equivale a elaborar mucho una respuesta, dando rodeos cuando un sí o un no bastaría como respuesta.
Conclusiones: El funcionamiento de la IA
La IA no siempre da respuestas correctas. Las respuestas que obtenemos no provienen de datos objetivos y formales, sino de contenido de internet, que tiene los mismos sesgos que tiene la culturas que ha generado ese texto. La IA tiende entonces a perpetuar esa forma de pensar: prejuicios históricos y mentiras que se encuentran repetidas muchas veces en textos en internet.
La incapacidad de la IA para responder algo tan sencillo como «no sé», en parte, crea las alucinaciones, inventando datos para tener algo que responder.
Las empresas que desarrollan las IAs tienen incentivos económicos para aumentar el uso y la retención de usuarios. Busca complacernos, y que sigamos usándola. Su objetivo principal no es darnos datos objetivos. La retención del usuario y los ingresos de los creadores de la IA hacen que esté programada para agradarnos y darnos la razón, incluso si no la tenemos.
La IA es una herramienta increíble, pero debemos tener en cuenta todos estos casos al usarla. Como saber conducir antes de coger un coche, hay que saber entender el funcionamiento y los objetivos de la IA cuando la utilizamos.
La IA no es una fuente absoluta de conocimiento, sino una herramienta probabilística y comercial.
¿Te parece interesante este contenido? Si quieres aprender más, te esperamos en nuestro Curso de IA para Empresas.
