Más allá de que Grok -de X- haya tenido que limitar recientemente su generador de imágenes tras la polémica de fotografías sexualizadas, la problemática está lejos de resolverse: es generalizada y extendida, y requiere medidas globales urgentes según lo reclaman distintos países. Estas prácticas no son nuevas, aunque el fenómeno tomó fuerza a fines de 2025 y comienzos de este año.
De la Redacción de EL NORTE
[email protected]
Durante los últimos días, creció la preocupación por el uso indebido de Grok, la inteligencia artificial integrada a la red social X, que está siendo utilizada para manipular fotos y generar imágenes sexualizadas de mujeres, niñas y adolescentes sin su consentimiento. Usuarios encontraron instrucciones específicas (prompts) para pedirle a la IA que quite ropa, coloque bikinis, lencería o incluso agregue inscripciones ofensivas sobre imágenes reales publicadas en la plataforma. También se detectaron casos de sexualización de menores de edad, lo que encendió alarmas a nivel internacional. Si bien este tipo de prácticas no es nueva, el fenómeno tomó fuerza a fines de 2025 y comienzos de este año. Incluso el propio Grok reconoció “fallos graves” que permitieron generar este contenido, aunque aseguró que no lo hace de manera intencional. Algunos perfiles fueron suspendidos, pero otros continúan activos.
La reciente decisión de limitar el acceso al generador de imágenes de Grok solo a usuarios con suscripción activa surgió tras una avalancha de solicitudes para crear o modificar imágenes consideradas explícitas o que podrían involucrar a menores, una situación que generó preocupación significativa entre distintos sectores. Bloomberg informó que, frente a este contexto, las autoridades europeas exigieron a la red social X conservar toda la documentación y los registros derivados de las actividades de Grok hasta finales de 2026, con el objetivo de facilitar investigaciones sobre posibles delitos de explotación digital infantil y protección de la infancia en el entorno tecnológico.
ACCIONES DE GOBIERNOS
Ante este panorama, algunos gobiernos tomaron acciones específicas.
El 2 de enero, el gobierno francés denunció penalmente el contenido generado por Grok por violar leyes penales sobre distribución de imágenes sexualizadas sin consentimiento y abuso.
India, envió una notificación formal a X exigiendo reporte de acciones y remoción de contenido, calificando el caso como una falla grave de protección de la dignidad de mujeres y menores.
En Reino Unido, autoridades y legisladores han señalado que deepfakes sexualizados pueden violar leyes actuales que regulan la distribución de pornografía y los estándares de verificación de edad/consentimiento.
En Estados Unidos, con la Take It Down Act, publicar deepfakes íntimos no consensuados puede ser ilegal y requiere su eliminación por ley.
“Es urgente que se implementen filtros efectivos, moderación activa y sanciones a usuarios que incurran en conductas violentas. Es urgente regular el uso de la inteligencia artificial y actuar contra la distribución de imágenes íntimas no consensuadas. X es una red cada vez más masculinizada y violenta contra las mujeres. Desde que Elon Musk asumió el liderazgo de esta red, la violencia digital contra las mujeres en ella ha aumentado considerablemente y no deja de hacerlo, dando como resultado la salida de cada vez más mujeres de la plataforma. Cerca del 65% de usuarios de la plataforma son hombres”, marcaron desde el medio `Volcánicas`.
QUÉ HACER
Para reducir el riesgo de que se usen imágenes, especialistas recomiendan configurar los perfiles en modo privado, evitar publicar fotos personales y desactivar las opciones que permiten a Grok entrenarse con los datos del usuario. Además, es clave denunciar el contenido inapropiado desde la misma plataforma.
Actualmente, no existe en Argentina una figura penal específica que sancione la creación de imágenes falsas con inteligencia artificial. Sin embargo, se pueden iniciar acciones civiles por daños y perjuicios o causas penales vinculadas a delitos contra el honor. En casos que involucren menores, algunas fiscalías analizan aplicar el artículo 128 del Código Penal. Otra herramienta legal es la Ley Olimpia, que incorpora la violencia digital dentro de la normativa de protección integral contra la violencia de género.
Si una imagen ya circuló, los especialistas aconsejan guardar pruebas, denunciar el hecho y buscar asesoramiento legal. También existen herramientas como StopNCII, que permite bloquear la difusión de imágenes íntimas sin consentimiento en distintas plataformas.
La situación vuelve a poner en debate los límites de la inteligencia artificial, la responsabilidad de las plataformas digitales y la necesidad de actualizar las leyes frente a nuevas formas de violencia digital y sexual.
Te puede interesar:https://diarioelnorte.com.ar/una-ia-vence-por-primera-vez-a-programadores-humanos-en-una-competencia-internacional/
