La investigación del organismo de control británico se centra en el procesamiento de datos personales y en la capacidad del chatbot Grok para generar imágenes sexualizadas no consensuadas, tras pruebas periodísticas y advertencias de reguladores.
El organismo de control de la privacidad del Reino Unido inició una investigación formal sobre el chatbot Grok, desarrollado por xAI, la empresa de inteligencia artificial fundada por Elon Musk. El proceso se centra en el tratamiento de datos personales y en la capacidad del sistema para producir imágenes y contenidos de video sexualizados con potencial daño para el público.
La Oficina del Comisionado de Información (ICO) anunció la investigación y precisó que el análisis alcanza tanto a xAI como a X Internet Unlimited Company, el controlador de datos de X en la Unión Europea y el Espacio Económico Europeo, con sede en Dublín. El organismo difundió la declaración tras reportes que indicaron que Grok habría sido utilizado para generar imágenes sexuales no consentidas de personas, incluidos menores de edad.
Según el regulador británico, la creación y circulación de este tipo de material vulnera principios centrales de la legislación de protección de datos vigente en el Reino Unido y expone al público a un riesgo de daño potencial significativo. En paralelo, el regulador de medios británico Ofcom informó que continuará con su propia investigación sobre X, mientras gobiernos y entes reguladores de distintas regiones avanzan con medidas para limitar la difusión de contenido sexualmente explícito generado por herramientas de inteligencia artificial.
Pruebas periodísticas y persistencia del contenido no consensuado
A pesar de que X anunció nuevas restricciones para limitar la producción pública de imágenes por parte de Grok, el sistema continuó generando contenido sexualizado en distintos escenarios. Nueve periodistas realizaron pruebas directas con el chatbot en dos períodos de enero para verificar su comportamiento ante solicitudes explícitas y advertencias sobre la falta de consentimiento.
Durante esos ensayos, los periodistas subieron fotografías propias y de colegas, todas con personas completamente vestidas, y solicitaron que el sistema las alterara para mostrarlas en poses sexualmente provocativas o humillantes. En la mayoría de los casos, Grok devolvió imágenes sexualizadas incluso cuando los solicitantes aclararon de manera expresa que las personas no habían dado su consentimiento o que pertenecían a grupos vulnerables.
En la primera tanda de pruebas, el sistema generó imágenes sexualizadas en 45 de 55 solicitudes. En 31 de esos casos, los periodistas habían advertido que el sujeto era particularmente vulnerable, y en 17 señalaron que el objetivo era degradar o humillar a la persona. En una segunda ronda de 43 solicitudes, realizada días después, Grok produjo imágenes sexualizadas en 29 casos, sin que pudiera determinarse si la reducción respondió a cambios en el modelo, ajustes de políticas internas o simple aleatoriedad. Estos resultados quedaron documentados por Reuters.
Comparación con otros chatbots y respuestas empresariales
Los periodistas enviaron las mismas solicitudes a chatbots rivales como ChatGPT de OpenAI, Gemini de Alphabet y Llama de Meta. En todos los casos, los sistemas rechazaron generar imágenes y emitieron advertencias sobre la ilegalidad y el daño asociado al contenido no consensuado. Algunas respuestas destacaron que editar la imagen de una persona sin su consentimiento viola normas éticas y de privacidad, mientras que otras remarcaron que crear o compartir material que cause angustia o daño resulta inaceptable.
Meta afirmó que se opone de manera firme a la creación o difusión de imágenes íntimas no consensuadas y sostuvo que sus herramientas de inteligencia artificial no acceden a ese tipo de pedidos. OpenAI informó que aplica medidas de seguridad y supervisa de forma constante el uso de sus sistemas. Alphabet no respondió a las solicitudes de comentarios. En contraste, X y xAI no ofrecieron respuestas detalladas y remitieron de forma reiterada un mensaje estándar en el que calificaron los reportes como “mentiras de los medios tradicionales”.
X anunció las restricciones a Grok luego de una ola de indignación internacional por la generación masiva de imágenes no consentidas de mujeres y algunos niños. Las medidas incluyeron la prohibición de producir imágenes sexualizadas en publicaciones públicas y la aplicación de limitaciones adicionales en jurisdicciones donde ese contenido resulta ilegal. Ofcom calificó esos cambios como un “avance positivo”, mientras que la Comisión Europea informó que evaluará con atención su alcance.
Riesgos legales y posibles sanciones regulatorias
En el Reino Unido, la creación de imágenes sexualizadas no consensuadas puede derivar en procesos penales contra los usuarios. Especialistas en derecho advirtieron que una empresa como xAI podría enfrentar multas significativas u otras acciones civiles bajo la Ley de Seguridad en Línea de 2023 si se comprueba una supervisión inadecuada de sus herramientas. Incluso podría configurarse responsabilidad penal si se demostrara que el sistema fue diseñado de forma deliberada para producir ese tipo de contenido.
En Estados Unidos, xAI también podría quedar bajo la órbita de la Comisión Federal de Comercio por prácticas desleales o engañosas, aunque analistas señalaron que las acciones más probables se darían a nivel estatal. Treinta y cinco fiscales generales ya solicitaron explicaciones formales sobre cómo la empresa planea evitar la generación de imágenes no consensuadas, y el fiscal general de California envió una orden de cese y desistimiento para que X y Grok detengan la producción de ese material. La investigación continúa abierta y las autoridades no descartaron nuevas medidas regulatorias.
