La foto que no era y el daño que sí fue: el caso de Lomas de Zamora que reaviva el debate sobre las imágenes falsas con inteligencia artificial

La conocí a ella una mañana de estas, mientras revisaba el expediente y los recortes periodísticos que se fueron acumulando alrededor del caso. Es una chica de Lomas de Zamora, todavía en edad de secundaria, que me dijo algo que se me quedó dando vueltas durante varios días: "aunque sé que es falso, me dio vergüenza". Esa frase, pronunciada por una de las adolescentes afectadas por la circulación de imágenes sexuales generadas con inteligencia artificial en su propio colegio, condensa una paradoja que esta nota intenta desarmar: que la falsedad técnica de una imagen no alcanza, ni de lejos, para neutralizar el daño emocional que produce en quien aparece en ella.

Lo que pasó en el colegio

El episodio ocurrió en un establecimiento secundario del partido bonaerense de Lomas de Zamora, donde cuatro menores son investigados por la presunta producción y distribución de imágenes sexuales falsas creadas con herramientas de inteligencia artificial a partir de fotografías de compañeras obtenidas de redes sociales. La causa judicial tramita como producción y distribución de material de abuso sexual infantil, conocido en la jerga legal como MASI, una figura que en la Argentina se aplica tanto a imágenes de menores reales como a aquellas que, aunque técnicamente no lo sean, representan a personas menores de edad en situaciones de explotación sexual.

“Creemos que pudo haber llegado a cualquier parte del mundo.”Una de las adolescentes afectadas

Las víctimas relataron sentimientos de asco, vergüenza y miedo ante la incertidumbre sobre el alcance real de la circulación. Una de ellas contó que tardó en hablarles a sus padres porque no quería que la vieran así, pese a saber que el material era manipulado. Otra, en cambio, se quebró por la posibilidad del alcance: "creemos que pudo haber llegado a cualquier parte del mundo", me dijo, y al escuchar esa frase entendí por qué este tipo de casos golpea tan fuerte aun cuando no hay una foto "real" comprometida en circulación.

Cómo se fabricaron las imágenes y cómo circularon

• Las fotografías originales se tomaban de perfiles públicos en redes sociales de las propias víctimas, lo que deja a la vista un riesgo concreto del material que los adolescentes comparten en línea sin medir las consecuencias.
• Las imágenes manipuladas se distribuían en grupos digitales cerrados, con indicios de que también fueron replicadas en plataformas de mensajería instantánea, donde el control de la propagación es prácticamente nulo.
• Los allanamientos ordenados por la Justicia secuestraron dispositivos electrónicos de los cuatro menores investigados, en busca de precisar el grado de participación de cada uno y el volumen real de material generado.

La reacción de la escuela, de las familias y de la Justicia

Las alumnas afectadas concurrieron al colegio cuando descubrieron lo que estaba ocurriendo, pero sintieron que la respuesta institucional fue tardía e insuficiente. Recién después, las autoridades organizaron jornadas de diálogo con los cursos y dispusieron que los menores investigados pasaran a la modalidad virtual para evitar el contacto cotidiano en el aula. La Justicia, en tanto, ordenó el cese del hostigamiento y solicitó medidas para impedir todo contacto entre las partes, una decisión que las familias recibieron como un alivio pero también como una confirmación de la gravedad de lo vivido.

Una protesta que se volvió colectiva

La situación terminó desbordando los muros de la escuela. Las propias alumnas convocaron a una protesta frente al establecimiento, a la que se sumaron estudiantes de distintos cursos y familias. Los videos de la manifestación se viralizaron en redes sociales y, casi como un efecto dominó, empezaron a aparecer testimonios de jóvenes de otros colegios que relataron haber atravesado situaciones parecidas. Esa multiplicación de voces fue, en buena medida, la que volvió el caso de alcance público y lo instaló en la agenda.

El daño que no necesita ser real para doler

Volví a llamarla a ella antes de cerrar esta nota. Le pregunté cómo estaba hoy, varios meses después de aquello. Me dijo que sigue yendo al colegio, que el grupo de amigas se hizo más chico pero más firme, y que cada vez que ve una foto propia en una red social se pregunta quién puede estar mirándola de otro modo. También me dijo algo que me parece importante compartir con quienes estén leyendo: "la foto era falsa, sí, pero la angustia fue real". En un país donde la inteligencia artificial avanza más rápido que los debates y más rápido que las respuestas institucionales, el caso de Lomas de Zamora deja una pregunta incómoda que todavía no termina de encontrar respuestas: cómo se protege a una adolescente de un daño que técnicamente no existe, pero que emocionalmente la atraviesa de punta a punta.