Violencia digital: los vacíos legales detrás del caso de las fotos creadas con IA en el Carlos Pellegrini

El escándalo por la difusión de imágenes reales y manipuladas con inteligencia artificial de alumnas de la Escuela Superior de Comercio Carlos Pellegrini y el Colegio Nacional de Buenos Aires volvió a encender las alarmas sobre la violencia digital en el ámbito escolar. El caso, que involucra a estudiantes menores de edad en grupos de WhatsApp, expone las severas limitaciones del marco jurídico argentino para sancionar la creación de deepfakes pornográficos y abre un debate urgente sobre la prevención en la era digital.

Un informe de la Defensoría del Pueblo de la Ciudad de Buenos Aires, realizado sobre una muestra de 912 estudiantes de entre 12 y 19 años, revela que el problema está lejos de ser aislado. Aunque solo el 1% de los encuestados declaró haber sido víctima directa de estas maniobras, un 13% admitió conocer casos en su entorno escolar y un preocupante 43% afirmó haber recibido imágenes o videos editados mediante inteligencia artificial (IA).

Las estadísticas judiciales confirman esta tendencia ascendente. Desde la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (Ufedyci), liderada por la fiscal Daniela Dupuy, informaron que las denuncias por difusión de imágenes creadas con IA en escuelas de la Ciudad de Buenos Aires pasaron de cuatro en 2023 a cinco en 2024, trepando a nueve en 2025 y registrando ya cuatro casos en lo que va de 2026.

El desafío jurídico ante la tecnología

A pesar de que la Ley Olimpia reconoce y busca prevenir la violencia contra las mujeres en entornos digitales, el uso de inteligencia artificial para falsificar material pornográfico carece de una tipificación penal específica en el país. Ante este vacío, la fiscal Dupuy aplica un criterio particular: cuando la víctima es menor de edad y su rostro es reconocible, aunque el cuerpo desnudo sea generado de forma artificial, la fiscalía encuadra el hecho bajo el artículo 128 del Código Penal, referido a la producción y distribución de material de explotación sexual infantil.

Sin embargo, el escenario se complejiza cuando las creaciones son íntegramente artificiales. Según Dupuy, estas imágenes suelen mezclarse con fotos reales para convencer a los menores de que se trata de conductas normales, facilitando su posterior distribución en redes internacionales de comercialización.

“La problemática está instalada y es internacional. Es constante el avance de la tecnología que colabora a que se puedan cometer delitos más fácilmente”

Inimputabilidad y la necesidad de prevención

En el caso puntual del Pellegrini y el Nacional Buenos Aires, los presuntos responsables serían alumnos menores de edad, lo que los vuelve inimputables bajo la legislación vigente. Si bien el Congreso sancionó en febrero un nuevo régimen penal juvenil que baja la edad de imputabilidad a los 14 años, esta norma recién comenzará a regir en septiembre. Ante esto, la fiscalía promueve un abordaje integral centrado en la concientización dentro de los colegios dependientes de la Universidad de Buenos Aires (UBA).

“Creo que hay que trabajar mucho en una educación digital, que hoy no está abordada de manera profunda. El Estado tiene que tomar cartas en el asunto. Si yo le pongo una pena o una probation en suspenso, un chico de 18 años se va a su casa sin entender el fondo del problema y sigue cometiendo el delito”

Para abordar la problemática, el Ministerio Público Fiscal porteño, a cargo de Javier Martín López Zavaleta, trabaja junto al Ministerio Público Tutelar, dirigido por Carolina Stanley, y las carteras de Justicia y Educación de la Ciudad. En tanto, desde el Ministerio de Educación porteño destacaron la creación en mayo del Consejo Asesor en Protección Digital Infantil y Adolescente, mientras que la UBA aplica sus propios protocolos de intervención interdisciplinaria y capacitación docente.

En el horizonte legislativo aparece también el proyecto de la Ley Ema, impulsado tras el suicidio de Ema Bondaruk, una adolescente de 15 años de Longchamps que se quitó la vida luego de la viralización de fotos íntimas sin su consentimiento. La iniciativa busca crear un programa nacional de prevención y proveer herramientas concretas para las escuelas.

Un flagelo global con sesgo de género

La facilidad para acceder a herramientas de generación de imágenes masificó el alcance de la violencia de género digital. Un informe de la Universidad de Zúrich señala que el 98% de los videos deepfake en la web son de carácter pornográfico, y el 99% de las víctimas son de género femenino. La tendencia quedó en evidencia a principios de año con el chatbot Grok, de la red social X, que permitía a los usuarios «desnudar» fotos de mujeres reales. Según Bloomberg, la herramienta llegó a generar 6.700 imágenes por hora antes de que la empresa de Elon Musk limitara la función tras una investigación en California.

La fiscal especializada en violencia de género, Genoveva Cardinali, destaca que la difusión no consentida de material íntimo constituye una clara manifestación de violencia de género que somete a las víctimas a una doble vulneración.

“La primera, evidente, al derecho a la privacidad, a la intimidad, a que una práctica que fue consensuada para ser desarrollada en un espacio privado ahora circule masivamente por la web. Pero además las mujeres estamos expuestas a una segunda forma de violencia que se da a partir de las agresiones que recibimos, los juicios, las opiniones”