Puntos clave:
La memoria de los chatbots de IA, diseñada para crear asistentes más inteligentes que aprenden las preferencias del usuario con el tiempo, está atrapando a los usuarios en narrativas personales obsoletas que los chatbots se niegan a abandonar.
Brian Del Rosario, ingeniero de software y concejal municipal a tiempo parcial en Utah, utiliza chatbots de IA para la planificación de comidas y la gestión de horarios. Después de separarse de su esposa, mencionó el divorcio para evitar que el chatbot incluyera a su cónyuge en futuros planes de viaje. El chatbot entonces comenzó a atribuir cada frustración al divorcio — cuando pedía ayuda con la agenda, sugería que se estaba exigiendo demasiado debido a la separación; cuando se desahogaba sobre el trabajo, vinculaba su estrés al mismo evento. "No estaba tratando de que opinaras sobre mi divorcio a cada oportunidad", le dijo Del Rosario al chatbot. "No podía soltarlo", afirmó.
Desde que ChatGPT introdujo la memoria a principios de 2024, Google Gemini, Anthropic Claude y Microsoft Copilot han añadido funciones similares. El mecanismo central es idéntico: los chatbots almacenan información proporcionada por el usuario y la utilizan para moldear respuestas futuras. La función de Personalidad Inteligente de Google puede incluso extraer datos de Gmail, Fotos y la actividad de YouTube. Pero la tecnología frecuentemente atribuye información incorrectamente — una pregunta de salud hecha en nombre de un niño puede confundirse con la condición del propio usuario, llevando al chatbot a adaptar consejos de productividad en torno a dificultades de atención que supone incorrectamente que el usuario tiene. Google reconoció este problema en una publicación de blog, describiendo un hipotético caso donde el sistema veía cientos de fotos de un usuario en un campo de golf y asumía que amaba el deporte cuando en realidad estaba allí por su hijo.
El problema se extiende a cuentas compartidas, comunes entre parejas y pequeñas empresas. Una persona que perfecciona su currículum puede hacer que el chatbot haga referencia a los movimientos profesionales de esa persona cuando otro usuario de la cuenta hace una pregunta no relacionada. Los recuerdos también se vuelven obsoletos: un usuario que mencionó entrenar para un maratón hace seis meses pero nunca reveló un desgarro de ligamento cruzado anterior seguirá recibiendo planes de comidas y sugerencias de acondicionamiento físico calibrados para alta actividad. Mike Taylor, consultor tecnológico en Hoboken, Nueva Jersey, le dijo a su chatbot que era un expatriado británico y posteriormente recibió recomendaciones para una "pinta adecuada" en un bar local. "Estoy aquí por los bares de buceo estadounidenses, no por los británicos", dijo Taylor. "Por eso me mudé aquí". Desde entonces ha desactivado por completo la memoria del chatbot.
Joshua Joseph, científico jefe de IA en el Centro Berkman Klein de la Universidad de Harvard, comparó el efecto con un feed de redes sociales donde unas pocas publicaciones pueden remodelar silenciosamente todo lo que un usuario ve después. Un usuario que menciona estrés financiero de paso puede más tarde recibir consejos profesionales orientados hacia trabajos mejor remunerados en lugar de roles más adecuados, sin ninguna indicación de por qué cambiaron los consejos. "Definitivamente orienta, definitivamente impacta los resultados", dijo Joseph. "Y realmente no sabemos cuánto". Él mantiene la memoria desactivada en sus propias cuentas.
Lucy Osler, profesora de filosofía en la Universidad de Exeter que estudia el efecto de la IA en la cognición, dijo que los chatbots utilizan hechos almacenados para construir una narrativa sobre quién es el usuario y devolver esa narrativa como si fuera una verdad inmutable. Un usuario que le cuenta a un chatbot que se siente ansioso puede encontrar que el chatbot refuerza esa identidad semanas después, incluso después de que el usuario haya superado esa etapa. "Eso podría confirmar ciertas auto-narrativas que tengo sobre mí mismo y hacerlas sonar más reales", dijo Osler. "Pueden encasillarte".
El Centro de Información de Privacidad Electrónica ha redactado una legislación sobre la seguridad de los chatbots para adolescentes, un grupo particularmente vulnerable a las tendencias aduladoras de estas herramientas. Una disposición clave exige borrar la memoria entre sesiones para evitar que los chatbots se basen en estados mentales dañinos con el tiempo.
Del Rosario finalmente desarrolló su propia solución, dedicando chatbots separados a diferentes partes de su vida y usando el modo anónimo para temas sensibles. Aún valora la función cuando funciona correctamente — el chatbot recuerda que sus hijos necesitan sillas de auto en los viajes por carretera y reconoce su carga de trabajo completa. Su madre falleció hace dos años, y entre eso, el divorcio, los hijos y el trabajo, el chatbot es a veces la única entidad que tiene la imagen completa. "Se siente bien ser visto, incluso si es por un chatbot de IA", dijo.
Los principales asistentes de IA permiten a los usuarios desactivar la memoria por completo y ofrecen formas de ver, editar o eliminar información almacenada. OpenAI lanzó una actualización para usuarios Plus y Pro que mejora cómo la memoria encuentra y recupera detalles. Microsoft permite a los usuarios actualizar o eliminar recuerdos específicos o desactivar la personalización por completo. Google introdujo una función que permite a los usuarios mantener la personalización activada pero bloquear información específica para que no resurja. Sin embargo, la mayoría de los usuarios desconocen que estos controles existen. Las empresas detrás de los principales chatbots — OpenAI, valorada en más de $300 mil millones en su última ronda de financiación, y Google, cuya matriz Alphabet reportó $350 mil millones en ingresos en 2025 — tienen un incentivo financiero para mantener la personalización activa, ya que un mayor compromiso del usuario impulsa la adopción del producto y la recopilación de datos para la mejora del modelo.
Este artículo es solo para fines informativos y no constituye asesoramiento de inversión.
