Imágenes falsas con inteligencia artificial: el daño invisible que golpea a adolescentes en Lomas de Zamora

Recién cae la tarde sobre Lomas de Zamora y la térmica todavía se hace sentir en la vereda, esa donde los pibes se quedan charlando después del timbre. Allí, en un colegio secundario del que casi no se sabe el nombre para no exponer más a las chicas, pasó algo que a mí, como vecino y como cronista, me dejó pensando varios días. Cuatro adolescentes, compañeros de aula de las víctimas, están siendo investigados por la Justicia por fabricar y repartir imágenes de contenido sexual utilizando inteligencia artificial, a partir de fotografías tomadas de los perfiles públicos de sus propias compañeras en redes sociales. La causa, que avanza en los tribunales bonaerenses, está caratulada como producción y distribución de material de abuso sexual infantil, una figura que contempla justamente estos casos donde la imagen no es real pero el daño, como se vio después, sí lo es.

Una frase que lo dice todo

Lo que más me quedó resonando de todo lo que se conoció fue una frase simple, casi al pasar, que soltaron las madres cuando relataron lo que les habían dicho sus hijas: aunque sé que es falso, me dio vergüenza. Esa es la cuestión de fondo, el ñembotavy, esa palabra en guaraní que usamos para nombrar lo que parece real aunque uno sepa que no lo es. Las chicas afectadas, varias de ellas todavía en la adolescencia temprana, describieron haber sentido asco, angustia, miedo y una especie de desprotección total al descubrir que sus rostros aparecían en cuerpos que nunca habían sido los suyos, en escenas que ellas jamás habían vivido. Una de ellas contó que tardó en hablarlo con su familia porque no quería que la miraran distinto, aunque en el fondo supiera que la foto estaba manipulada. Esa es la trampa del fenómeno, y por eso me parece importante detenerme a contarlo con tiempo y con detalle.

Cómo se fabricaron las imágenes y por qué circulan tan rápido

Lo que se pudo reconstruir hasta ahora es bastante claro en su mecánica, aunque turbio en sus consecuencias. Los adolescentes investigados habrían tomado fotografías de los perfiles públicos en redes sociales de varias compañeras, muchas de esas imágenes que cualquier pibe sube sin pensarlo dos veces, y las habrían procesado con herramientas de inteligencia artificial para generar material de contenido sexual falso. Después, esas imágenes se distribuyeron en grupos digitales cerrados, con indicios firmes de que también circularon por plataformas de mensajería, ese territorio al que la Justicia le cuesta entrar. Una de las chicas afectadas lo resumió con una preocupación que a mí, como padre y como periodista, me pareció enorme: creemos que pudo haber llegado a cualquier parte del mundo, dijo, y en esa frase está condensado el vértigo de vivir una adolescencia donde lo que sube a un grupo chico puede terminar replicándose sin control.

Lo que pasó en el colegio y lo que pasó afuera

Cuando las chicas se animaron a hablar, fueron al colegio a pedir ayuda, y ahí apareció otro de los temas que más bronca generó entre las familias. Según relataron, la respuesta institucional fue tardía y, en sus propias palabras, insuficiente, lo que terminó de profundizar la sensación de desprotección. Con el correr de los días, y ya con la Justicia interviniendo, la dirección organizó jornadas de diálogo con los cursos, se ordenó el cese de hostigamiento y los cuatro menores investigados pasaron a la modalidad virtual para evitar el contacto con las víctimas. Pero el movimiento más fuerte vino de las propias alumnas, que organizaron una protesta frente al establecimiento, con familias y estudiantes de otros cursos, y cuyos videos se viralizaron en redes. A partir de ahí, aparecieron testimonios de jóvenes de otros colegios de la zona que relataron haber vivido situaciones parecidas, lo que muestra que lo de Lomas de Zamora no fue un caso aislado sino la punta de un iceberg que está creciendo.

Qué queda por delante, en lo legal y en lo cotidiano

La causa sigue en instrucción, con cuatro menores bajo investigación y allanamientos ya realizados para secuestrar los dispositivos desde donde se habrían producido y distribuido las imágenes. En paralelo, para padres, docentes y equipos de orientación se abre un abanico de preguntas concretas que no son menores:

• Qué hacer si un adolescente descubre que circula una imagen manipulada suya, aunque sepa que es falsa.
• Cómo conversar en familia sobre el riesgo de las fotos que se suben a redes, sin caer en el alarmismo pero tampoco en la ingenuidad.
• De qué manera las escuelas pueden responder a tiempo y no quedar atrapadas entre el patio y el juzgado.
• Qué herramientas legales existen hoy en la Argentina para perseguir este tipo de producción, que es nueva en su forma pero muy vieja en su intención de dañar.

Mientras la Justicia avanza y el colegio intenta volver a la rutina, a mí me queda dando vueltas una imagen de la tarde, esa en la que las chicas se juntaron en la puerta, con sus padres atrás, y levantaron los carteles. No fue una marcha ruidosa ni multitudinaria, pero se notaba en la cara de cada una de ellas que lo que estaban defendiendo no era un tema de plataforma ni de tecnología, sino algo mucho más antiguo y mucho más simple, que es el derecho a que nadie decida por vos cómo se ve tu propio cuerpo, aunque sea en una imagen que, técnicamente, nunca existió.