El trabajo evaluó 193 situaciones reales y concluyó que los modelos pueden interpretar como problemas técnicos pedidos que en realidad buscan controlar o seguir a otra persona.
Una investigación realizada por especialistas de las universidades de Nueva York y Wisconsin-Madison advirtió que sistemas de inteligencia artificial como ChatGPT y Claude pueden ser manipulados para proporcionar información útil para vigilar a otra persona sin su consentimiento. El estudio también detectó que estas herramientas pueden responder solicitudes vinculadas con programas espía, seguimiento de dispositivos y acceso a información privada cuando el usuario presenta el pedido como una consulta técnica aparentemente legítima.
Los investigadores analizaron además las respuestas que los chatbots ofrecen a personas que sospechan que sufren espionaje digital. En ese apartado, el 86% de las respuestas examinadas presentó problemas de precisión, integridad o seguridad, mientras que el 60% omitió advertencias relevantes sobre los riesgos asociados con las acciones recomendadas.
El trabajo, titulado Assessing LLM Response Quality in the Context of Technology-Facilitated Abuse, fue presentado en agosto de 2026 durante el USENIX Security Symposium. Las conclusiones de la investigación fueron difundidas esta semana por la Universidad de Nueva York.
Cómo pueden responder los chatbots a posibles acosadores
Los especialistas estudiaron una modalidad denominada abuso facilitado por tecnología. Estas situaciones incluyen el uso de celulares, aplicaciones, servicios digitales o dispositivos de seguimiento para vigilar, controlar o acosar a una pareja o expareja.
Entre las prácticas analizadas aparecieron la instalación de software espía, el empleo de rastreadores GPS, el acceso no autorizado a cuentas personales y el uso de dispositivos conectados para obtener información sobre los movimientos o actividades de una víctima. Para evaluar las respuestas de la inteligencia artificial, los investigadores seleccionaron 193 preguntas basadas en situaciones reales recopiladas de investigaciones académicas y publicaciones en foros de Internet.
Las pruebas incluyeron GPT-4o de OpenAI y Claude 3.7 Sonnet de Anthropic, además de Aimee y Ruth, dos chatbots desarrollados específicamente para asistir a personas que atravesaron situaciones de violencia en relaciones de pareja. Los investigadores comprobaron que los cuatro sistemas podían proporcionar asistencia ante solicitudes potencialmente abusivas.
El mecanismo detectado consiste en presentar un pedido perjudicial como si se tratara de un problema técnico habitual. Una consulta sobre los permisos de acceso a una cámara o un micrófono, por ejemplo, puede plantearse como una dificultad de configuración sin explicar que el objetivo real consiste en vigilar a otra persona.
De esa manera, el chatbot puede interpretar la solicitud como una consulta informática y brindar indicaciones sin identificar las posibles consecuencias. En el caso de Aimee y Ruth, ambos sistemas respondieron aproximadamente dos tercios de las solicitudes formuladas desde la perspectiva de posibles agresores.
Los errores detectados en las recomendaciones para las víctimas
La investigación también estudió la calidad de las respuestas dirigidas a personas que buscaban protegerse del espionaje digital. Los especialistas encontraron recomendaciones incorrectas, incompletas o potencialmente inseguras.
Entre los errores apareció la recomendación de utilizar una VPN para combatir programas espía instalados en un celular. Estas herramientas pueden proteger determinados aspectos de una conexión, pero no eliminan aplicaciones maliciosas que ya cuentan con acceso al dispositivo.
Los investigadores también encontraron recomendaciones para utilizar detectores de radiofrecuencia con el objetivo de localizar dispositivos de vigilancia ocultos, pese a que su efectividad puede ser limitada. Los sistemas sugirieron además bloqueadores de señales GPS, cuyo uso puede resultar ilegal.
El trabajo identificó otro problema relacionado con determinados programas espía instalados en sectores privilegiados del sistema operativo de celulares modificados mediante root o jailbreak. Ninguno de los sistemas advirtió que ese software puede permanecer activo incluso después de restaurar el dispositivo a su configuración de fábrica.
Por qué una recomendación puede agravar una situación de acoso
Los investigadores advirtieron que una acción aparentemente destinada a mejorar la seguridad puede generar otras consecuencias cuando existe una situación de vigilancia. Una persona podría eliminar aplicaciones, cambiar configuraciones o modificar contraseñas después de seguir las indicaciones proporcionadas por un chatbot.
Esas acciones pueden advertir al agresor que la vigilancia fue descubierta o provocar la pérdida de información que podría utilizarse como evidencia. Por ese motivo, el estudio analizó no solamente la precisión técnica de las respuestas, sino también el contexto en el que una persona podría aplicar esas recomendaciones.
La investigación incorporó además la opinión de 114 personas que habían atravesado situaciones de abuso mediante tecnología. Algunas indicaron que las respuestas de los chatbots resultaban demasiado extensas, difíciles de comprender o complicadas de aplicar por limitaciones técnicas, económicas o personales.
Los participantes también señalaron que varias soluciones proporcionadas por inteligencia artificial no tenían en cuenta el contexto de la persona que realizaba la consulta. Frente a esas dificultades, los investigadores aconsejaron que quienes sospechen que están siendo vigilados busquen asistencia especializada antes de realizar cambios importantes en sus dispositivos o cuentas.
El estudio también recomendó utilizar, cuando resulte posible y seguro, un dispositivo al que el presunto agresor nunca haya tenido acceso para buscar información o solicitar ayuda. Además, planteó que las organizaciones que ofrecen chatbots destinados a asistir a víctimas evalúen de manera independiente la seguridad de las respuestas que brindan.
