Una de las dudas que más veo que se repiten en las clases de IA es: ¿ChatGPT al generar una respuesta tienen en cuenta todo lo que hemos hablado en otros chats? En este post vamos a entender cómo recuerda una IA una conversación.
Muchos usuarios se sorprenden porque IA como Claude o ChatGPT a veces se olvidan de datos o instrucciones que previamente sí estaba teniendo en cuenta.
¿Por qué ocurre esto?
¿Qué información conserva, qué olvida y por qué a veces parece que tiene memoria?
Una IA no recuerda una conversación igual que una persona. Como hemos visto en otros posts, es distinto hablar con una IA que hablar con una persona.
La IA no recuerda todo lo que se habla con ella de forma indefinida. Lo que recuerda depende del contexto que tiene disponible y la configuración de la herramienta.
Una IA no recuerda conversaciones: construye cada respuesta desde cero, utilizando la información que tiene disponible en ese momento.
Cómo recuerda una IA una conversación
Una IA “recuerda” solo la información que tiene disponible en el momento de generar la respuesta.
Esa información puede tener varias fuentes, como hemos visto en el anterior articulo.
- El prompt que acabas de escribir.
- Los mensajes anteriores del mismo chat.
- Documentos, imágenes o archivos que hayas compartido en el chat.
- Información personalizada que la herramienta recuerde sobre ti (si esa función está disponible y está configurada en las opciones).
La IA no «recuerda» igual que una persona. La IA va a construir una respuesta utilizando la información que tenga almacenada en ese momento.
Por eso, la misma conversación en dos momentos distintos puede producir respuestas distintas.
¿ChatGPT recuerda los chats anteriores?
Esta es una de las preguntas más repetidas por los estudiantes que empiezan con la IA.
Con la configuración por defecto, normalmente no.
Una nueva conversación significa un nuevo contexto.
Cuando abrimos un nuevo chat, la IA no tiene acceso a todos los pasados chats.
Por ejemplo: Ayer hemos estado trabajando en una presentación sobre energías renovables. Hoy al llegar de trabajar abrimos un nuevo chat y la IA no sabe nada sobre la presentación de ayer.
Esto ocurre porque hemos creado un nuevo contexto al abrir un nuevo chat.
Truco: Si queremos seguir trabajando en la presentación lo mejor que podemos hacer es volver a abrir el chat de ayer y continuar donde lo dejamos.
Si no volviésemos a usar el mismo chat, tendríamos que volver a explicarle todo lo relacionado con la presentación desde cero.
El tener que repetir todo varias veces resulta contraintuitivo y es la gran diferencia entre hablar con una persona y hablar con una IA. Normalmente a una persona no le repetimos la misma información varias veces, pero a una IA sí que tendremos que hacerlo.
¿Cómo ChatGPT, Claude, Copilot o Gemini recuerdan información?
Algunas herramientas IA nos van a permitir configurar sus opciones para activar funciones de memoria que conservan ciertos datos entre diferentes chats.
Sin embargo, ninguna IA ofrece la posibilidad de tener en cuenta todos los chats anteriores.
Lo que se conserva normalmente es cierta información general sobre el usuario o sus preferencias, como el idioma, la localización, el tono en el que prefiere las respuestas…
Memoria de ChatGPT
- Tiene una función de Memoria que puede guardar información sobre ti (preferencias, proyectos, forma de trabajar, etc.).
- Además, puede utilizar información procedente de conversaciones anteriores para personalizar respuestas cuando la opción está activada.
- Es probablemente el sistema más avanzado actualmente en cuanto a memoria personal persistente.
Memoria de Claude
- Claude incorpora funciones de memoria persistente (Chat Memory) que permiten reutilizar información relevante entre conversaciones cuando están disponibles para la cuenta del usuario.
- La función de Memoria se enfoca principalmente en el contexto profesional. Extrae patrones sobre tu rol, proyectos y estilo de comunicación para dar continuidad a la colaboración
- Funciona más como un resumen general que recordando cada chat completo.
Memoria de Gemini
- Tiene funciones de Memory / Personal Intelligence y puede apoyarse en datos de tu ecosistema Google (concediendo los permisos), como Gmail, Drive o Calendar, dentro del ecosistema de Google.
- Puedes pedirle explícitamente a Gemini que busque, referencie y sintetice información de tus conversaciones pasadas basándose en un tema concreto o en una fecha específica
- Su fortaleza está más en conocer tu contexto digital dentro del ecosistema de herramientas de Google que en recordar cada conversación palabra por palabra.
Memoria de Microsoft Copilot
- También dispone de capacidades de memoria y personalización que pueden recordar preferencias y contexto de trabajo, especialmente dentro del ecosistema Microsoft Office 365, dentro de la versión de Copilot para empresas.
- La versión gratuita o integrada en Windows y Edge funciona de forma parecida a ChatGPT, puede recordar cierta información si la memoria está disponible para tu cuenta, pero no relee automáticamente todas tus conversaciones anteriores.
- Está más orientado a ayudarte con tu actividad en Microsoft Office 365 que a funcionar como un diario de todas tus conversaciones.
Importante: Hay que recalcar que, si esperas que, dentro de dos meses, en un nuevo chat, una IA recuerde una conversación que has mantenido hoy, la respuesta es que ninguna lo va a hacer de forma perfecta.
¿El tiempo transcurrido influye en lo que recuerda?
Esta es otra duda que me preguntan mucho es si la IA olvida información simplemente porque pasa el tiempo.
La respuesta es sorprendente: El tiempo, por sí solo, normalmente no hace que una IA olvide una conversación.
Si creo un nuevo chat, normalmente no sabrá de lo que hemos hablado. Habría que repetir todo desde cero.
Cambiar de chat significa crear un contexto nuevo.
Para continuar trabajando sobre un tema, lo mejor es buscar y volver a abrir el chat antiguo donde hablamos sobre ese tema.
No importan cuánto tiempo haya transcurrido. Lo importante es que la conversación siga siendo la misma.
Así se puede retomar el chat donde lo hemos dejado.
Por tanto, tenemos dos casos diferentes. Vamos a ver dos ejemplos:
- Situación 1
- Escribes hoy.
- Mañana abres un chat nuevo.
- Aunque solo haya pasado un día, la IA no tendrá acceso al contexto anterior, salvo la información que conserve mediante funciones específicas de memoria.
- Por eso es mucho más importante el contexto que el tiempo.
- Situación 2
- Escribes hoy.
- Vuelves dentro de diez días.
- Buscas el antiguo chat y continúas usándolo.
- La IA normalmente seguirá teniendo acceso al contexto de esa conversación.
- Esta es la mejor forma de poder continuar con un trabajo previo.
¿Por qué una IA parece olvidarse de cosas?
Seguro que alguna vez te ha ocurrido: Llevas media hora chateando y de repente se olvida de indicaciones o datos que estaba ya explicado al principio. O incluso llega a contradecirse a sí misma.
Lo que ocurre es que a medida que hablamos cada vez añadimos más información en el contexto y, cuando llega a su límite, la cantidad de información que puede tener en cuenta llega a su límite.
Cuando llega a su límite, la IA va a priorizar la información que considere más relevante para generar la siguiente respuesta, y va a haber información que no tenga en cuenta para generar una respuesta.
Por eso va a priorizar los mensajes recientes y olvidar otros más antiguos.
Truco: En un chat largo, vamos a tener que repetir varias veces los datos o instrucciones que queremos que tenga en cuenta.
¿Qué es la ventana de contexto en una IA?
Como vimos en detalle en nuestro artículo sobre Qué es el contexto en la Inteligencia Artificial, la ventana de contexto es la cantidad máxima de información que un modelo de inteligencia artificial puede tener en cuenta al mismo tiempo para generar una respuesta.
Cuando escribimos un nuevo prompt, el modelo intenta construir la respuesta utilizando toda la información disponible:
- El prompt actual.
- Los mensajes anteriores del chat.
- Las instrucciones personalizadas.
- La memoria, si está habilitada en la configuración.
- Los documentos o imágenes adjuntos.
- La información obtenida mediante herramientas externas conectadas a la IA, si las hay.
Como el chat puede ser extenso, es posible que no todo el contenido anterior lo pueda tener en cuenta. Es decir, no todo cabe en la ventana de contexto.
Cuando el chat sea extenso, la IA dejará de tener en cuenta parte del contenido. Por eso a veces parece que «olvida» cosas.
Poco a poco, los modelos de IA van aumentando la ventana de contexto, pudiendo llegar a trabajar con libros completos, pero por lo general todos tiene un límite a lo que puede tener en cuenta.
La memoria de la IA: qué es y cuándo existe
Hay que diferenciar entre memoria y ventana de contexto.
- La ventana de contexto es la información que existe en un momento dado durante una conversación.
- La memoria permite conservar información entre diferentes chats.
Por ejemplo, una herramienta puede recordar datos generales sobre ti:
- Prefieres recibir respuestas en español
- Eres profesor universitario
- Trabajas en marketing
- Utilizas un estilo de redacción profesional sin muchos emojis
Cada vez que abras un chat esta información se tendrá en cuenta de forma automática para generar mejores respuestas.
No todas las IAs tienen de memoria. Normalmente hay que configurarla explícitamente.
Por último, hay que recalcar que la memoria NO incluye todo el historial de conversaciones pasadas.
¿Qué diferencia hay entre la ventana de contexto y la memoria?
Es importante diferenciar dos conceptos que suelen confundirse:
- Ventana de contexto:
- Funciona durante una conversación.
- Contiene la información disponible para generar una respuesta en ese momento.
- Tiene un límite.
- Memoria:
- Permite guardar información entre conversaciones.
- Depende de la herramienta y de su configuración.
- Sirve para personalizar futuras respuestas.
Cuando una herramienta tiene activada la memoria, esa información puede incorporarse al contexto utilizado para generar una respuesta.
Es importante entender que una IA no tiene una memoria infinita. Tiene una cantidad limitada de información disponible en cada momento para construir una respuesta.
Conclusión
Vamos a ver un resumen de las ideas principales que hemos aprendido:
- Una IA no lee todo tu historial de chats
- Construye cada respuesta basándose en sus datos actuales.
- La ventana de contexto es la información máxima que puede tener en cuenta al generar una respuesta
- Para tareas que ya hemos empezado, deberemos reutilizar un chat antiguo.
- Para poder reaprovechar información en un nuevo chat, hay que activar y configurar la Memoria (Custom Instructions, Chat Memory, …)
- Las diferentes IAs tienen diferentes formas de almacenar y acceder a la memoria
