JUDICIALES
Ordenan bloqueo de sitio web que generaba imágenes íntimas falsas con Inteligencia Artificial
La doctora Marta Rut Legarreta a cargo del Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres, dictó una medida cautelar para proteger los derechos de adolescentes cuyos rostros fueron utilizados sin consentimiento en imágenes íntimas falsas, generadas mediante inteligencia artificial a través de una aplicación. La medida regirá hasta tanto se acredite el cese del riesgo de daño, priorizando el interés superior de las adolescentes afectadas.
La medida cautelar de protección se dictó en el marco de una causa por vulneración de derechos de adolescentes. La jueza Marta Rut Legarreta ordenó al ENACOM el bloqueo inmediato de un sitio web desde el territorio argentino. La aplicación utilizaba inteligencia artificial para generar imágenes de desnudez falsas con rostros reales sin consentimiento.
La resolución se emitió tras tomarse conocimiento del uso de esta herramienta tecnológica y su difusión a través de WhatsApp. La jueza advirtió que el daño concreto se produjo por el funcionamiento de esta aplicación, que permite crear y compartir contenido sexual simulado sin verificar edad ni consentimiento.
Además, la jueza Legarreta basó su decisión en los riesgos concretos que representa el entorno digital cuando no existen filtros preventivos, especialmente para niñas y adolescentes, advirtiendo que "el entorno digital no garantiza barreras efectivas de edad ni consentimiento, lo que expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica".
Bloqueo del sitio y activación de organismos nacionales
La jueza Marta Rut Legarreta fundó su decisión en tratados internacionales y leyes nacionales de protección a la niñez y prevención de violencia de género, entre ellas la "Ley Olimpia" (Ley N° 27.736), que reconoce la violencia digital como una modalidad de agresión hacia las mujeres.
Se ordenó: La intervención del ENACOM, solicitando el bloqueo inmediato del acceso desde Argentina al sitio web de la aplicación y a sus servidores DNS. Y además se ordenó la notificación a la Unidad Fiscal Especializada en Ciberdelincuencia (UFECI) para que colabore en las investigaciones e impulse medidas que permitan identificar a los responsables.
La medida regirá hasta tanto se acredite el cese del riesgo de daño, priorizando el interés superior de las adolescentes afectadas.
Simulaciones de desnudez con IA: resumen del hecho que originó la intervención judicial
La causa se inició a partir de la denuncia de un progenitor, quien aportó el nombre de la aplicación utilizada para manipular imágenes de adolescentes, generando contenido sexual falso sin consentimiento. La herramienta digital que, según el informe del Área de Seguridad Informática del Poder Judicial, emplea modelos avanzados de inteligencia artificial para eliminar digitalmente ropa en fotografías y simular imágenes íntimas.
El contenido habría sido difundido por WhatsApp, el juzgado destacó que el daño concreto se produjo por el uso de esta aplicación, que permite crear imágenes falsas sin control ni verificación, vulnerando la privacidad, dignidad e identidad de las víctimas.
Informe pericial
El informe técnico elaborado por el Área de Seguridad Informática de la Dirección de Informática del Poder Judicial de Corrientes, a cargo del licenciado José Nicolás Bruzzo, describió en detalle el funcionamiento de la aplicación.
Se indicó que utiliza modelos avanzados de inteligencia artificial, como redes generativas antagónicas (GANs) y modelos de difusión, para simular la eliminación digital de ropa en fotografías reales, generando imágenes manipuladas que violan la privacidad y dignidad de las personas. También se advirtió que el sitio carece de controles de edad, almacenamiento seguro y transparencia sobre sus desarrolladores, lo que agrava los riesgos de abuso, acoso y difusión no consentida de contenido íntimo.
Jueves, 22 de mayo de 2025
