Una resolución judicial de San Luis dispuso la interrupción del acceso a una plataforma digital utilizada para producir imágenes manipuladas de adolescentes sin autorización. La medida, de alcance nacional, busca frenar nuevas vulneraciones y proteger a las víctimas mientras avanza la investigación.
La Justicia de San Luis dispuso una medida inédita en Argentina: el bloqueo nacional de una aplicación que producía desnudos falsos mediante Inteligencia Artificial, utilizando rostros de personas reales sin autorización. La decisión fue tomada por la jueza Daniela Benenatti, del Juzgado Penal Juvenil, tras un pedido urgente del Ministerio Público Fiscal provincial.
La investigación comenzó cuando la fiscal Antonella Córdoba, especializada en género, diversidad sexual e infancias, recibió la denuncia de una escuela de la capital puntana. La apoderada del establecimiento alertó que estudiantes adolescentes habían sido víctimas de imágenes íntimas simuladas, creadas a partir de sus fotos y difundidas sin consentimiento. El caso encendió alarmas por el nivel de exposición y vulneración de derechos.
Según el informe técnico del Departamento de Delitos Complejos del Poder Judicial, la plataforma funcionaba como un software de edición, pero en realidad utilizaba algoritmos de aprendizaje profundo para “desnudar” fotografías y generar cuerpos falsos. Aunque el sitio aseguraba que no procesaba imágenes de menores, la investigación determinó que no existían mecanismos reales de verificación de edad, lo que facilitó su uso indebido.
La fiscal Córdoba fundamentó su pedido en un marco legal que incluye la Ley Olimpia (27.736), que sanciona la violencia digital, la Ley 26.061 de protección de niñas, niños y adolescentes y la Ley 26.485 contra la violencia hacia las mujeres. En su presentación, advirtió que la permanencia del sitio “constituye un riesgo cierto de repetición del daño”, tanto para las víctimas como para otros potenciales afectados, dada la facilidad de acceso y la ausencia de controles.
La jueza Benenatti ordenó la intervención del ENACOM para ejecutar el bloqueo inmediato del sitio en todo el país. En caso de que la medida no pudiera aplicarse de manera técnica, instruyó a los organismos nacionales a evaluar alternativas que garanticen la interrupción del servicio, con el objetivo de evitar nuevas vulneraciones de privacidad y dignidad.
El caso también reveló un episodio paralelo: un menor habría utilizado la herramienta para generar desnudos falsos de compañeras y difundirlos en redes sociales, lo que aceleró la intervención judicial. Para los investigadores, este hecho expone la creciente amenaza de los deepfakes ( contenido digital manipulado falso) y la necesidad de reforzar la educación digital en ámbitos escolares.
La resolución marca un precedente en el país y abre el debate sobre la regulación de tecnologías basadas en Inteligencia Artificial, especialmente aquellas que pueden derivar en violencia digital, acoso, extorsión o difusión no consentida de imágenes íntimas. La Justicia puntana remarcó que la protección de menores en entornos digitales debe ser prioritaria y que el avance tecnológico no puede quedar por encima de los derechos fundamentales.