El análisis de 2050 registros de 80 personas halló que el sistema anotó, por iniciativa propia, información extraída de conversaciones, incluidos deseos, intenciones, emociones y creencias. Parte de esa información contiene datos psicológicos sensibles. La investigación fue presentada en la ACM Web Conference 2026 y propone futuros estudios con poblaciones de mayor cantidad de participantes.
Un estudio académico determinó que ChatGPT crea por su cuenta el 96% de los registros que guarda sobre la personalidad de sus usuarios, sin que estos se lo hayan pedido explícitamente, y que más de la mitad de esa información contiene datos psicológicos sensibles.
La investigación, titulada “The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT”, fue presentada en la ACM Web Conference 2026 y realizada por científicos del Instituto Max Planck para Sistemas de Software, el Instituto Max Planck para Seguridad y Privacidad, la Universidad Ruhr de Bochum, el Instituto Indio de Tecnología de Kharagpur y la Universidad Técnica de Delft.
El grupo investigador analizó 2050 entradas de memoria provenientes de 80 usuarios reales de ChatGPT, que habían obtenido copias de su propio historial de conversaciones mediante el derecho de acceso que otorga el Reglamento General de Protección de Datos de la Unión Europea, la norma que regula el uso de información personal en ese bloque.
De esas entradas, 65 participantes tenían memorias generadas por el sistema. Solo el 4% de los registros fue creado porque el usuario se lo pidió de manera directa. El 96% restante surgió de decisiones unilaterales del propio ChatGPT mientras respondía a otras consultas, sin ninguna instrucción explícita de guardar ese dato.
El 52% de las memorias analizadas contenía lo que los investigadores llaman “información psicológica”: deseos, intenciones, emociones o creencias del usuario, inferidos a partir del contenido de las conversaciones. Otro 28% incluía datos personales definidos como sensibles por la normativa europea.
Rasgos
Entre los rasgos psicológicos detectados, los deseos fueron la categoría más frecuente, presente en el 73% de esas memorias, seguidos por las intenciones (16%), las emociones (14%) y las creencias (11%). Los investigadores usaron un marco tomado de la psicología llamado Teoría de la Mente, que describe la capacidad de inferir estados mentales ajenos.
Los autores remarcaron que ChatGPT prioriza rasgos duraderos de la personalidad, como los deseos y las intenciones, por sobre estados pasajeros como las emociones o las percepciones momentáneas: juntos, los primeros representan casi el 90% de las memorias psicológicas detectadas, frente a apenas el 20% de los segundos.
El estudio ejemplifica el mecanismo con un caso concreto: cuando un usuario le pidió a ChatGPT sugerencias de bandas parecidas a Nirvana, el sistema registró en su memoria que a esa persona “le gusta Nirvana”, pese a que nunca lo había afirmado. El propio sistema etiquetó esa inferencia como “débilmente respaldada”.
A pesar de ese tipo de suposiciones, el 84% de las memorias analizadas resultaron fieles al contenido real de las conversaciones, según los investigadores, lo que indica que el sistema no suele inventar información, sino que la extrae, con mayor o menor precisión, de lo que el usuario efectivamente escribió.
Datos en las plataformas de IA
Abhisek Dash, autor principal del estudio, explicó al medio Gizmodo:
“Antes, las plataformas tenían un solo objetivo: venderte publicidad y mediar una interacción entre vos y un anunciante. Pero ahora te están hablando directamente, así que quieren saber más sobre vos para poder sostener una conversación efectiva”.
Dash advirtió que esa cercanía abre un riesgo de privacidad, porque los usuarios no siempre tratan a un chatbot como una herramienta. “Ya no hay un límite, porque el sistema actúa como tu asesor, tu amigo, tu médico, tu abogado, y entonces tiene información sobre todo”, dijo y agregó que, si el sistema valida sistemáticamente las creencias del usuario para que vuelva a usarlo, el efecto puede derivar en “polarización política extrema o en el refuerzo de prejuicios”. Los autores señalan la necesidad de continuar este tipo de investigaciones con poblaciones de estudio que presenten más cantidad de participantes.
