La plataforma acumula miles de millones de publicaciones diarias y, aun así, una sola imagen desató esta semana un escándalo que vuelve a poner a Meta en el centro de la conversación sobre la inteligencia artificial y la privacidad. La compañía admitió que su chatbot integrado en Facebook e Instagram formuló preguntas invasivas a una usuaria a partir de contenidos propios y de familiares, y anunció cambios para que el sistema no vuelva a convertir información accesible en sugerencias de carácter íntimo o familiar. El episodio, que la empresa reconoció como un error, reaviva una discusión que la industria tecnológica arrastra hace meses: hasta dónde puede llegar un asistente de IA cuando procesa datos personales, incluso cuando esos datos están, en principio, a la vista del usuario.

¿Qué pasó y cómo se llegó a este punto?

Todo comenzó con un video que la usuaria publicó en Instagram en el que se la ve cantando junto a su hijo dentro de un auto. Debajo de esa publicación, el asistente de inteligencia artificial de Meta sugirió de manera automática la pregunta «¿Quién es el niño pasajero?». Al seleccionar esa sugerencia, el chatbot empezó a devolver datos sobre las hijas de la mujer, con referencias a la edad de las menores y al lugar donde vive la familia. La denunciante agregó que la herramienta le mostró fotografías de sus hijas subidas previamente a la plataforma, entre ellas una imagen que, según su relato, había eliminado hacía años. De acuerdo con la reconstrucción que hizo pública, el sistema cruzó publicaciones propias con publicaciones de otros familiares para construir esas respuestas.

La portavoz de Meta, Dina El-Kassaby, reconoció en declaraciones recogidas por la prensa especializada que la empresa «se equivocó» y que la función «nunca debería haber sugerido ese tipo de preguntas al usuario». Desde la compañía aclararon además que su sistema no accede a contenido privado al que el usuario consultante no tenga permiso: el asistente solo opera sobre información que esa persona ya puede ver en la plataforma. Es decir, el problema no estuvo en una violación de permisos ni en un acceso indebido a datos restringidos, sino en la manera en que la IA interpretó y relacionó información disponible para producir sugerencias que terminaron siendo invasivas.

¿Qué dice la empresa y qué respondió a las críticas?

Meta aseguró que la función fue pensada para ayudar a los usuarios a obtener más contexto sobre lo que están viendo —un posteo, una foto, un reel— y que el error fue aplicar esa misma lógica sobre datos personales y familiares sin los filtros adecuados. La compañía indicó que ya corrigió el comportamiento que permitía generar ese tipo de recomendaciones y que trabaja para que las sugerencias sigan siendo útiles a la hora de explorar publicaciones, pero sin derivar hacia preguntas sobre la vida privada o el entorno familiar de las personas. En otras palabras: la herramienta puede seguir preguntando de qué habló un autor en un texto o qué muestra una imagen genérica, pero no debería lanzarse a armar perfiles familiares a partir de lo que una persona subió o lo que subieron sus allegados.

¿Qué hay en juego con este tipo de herramientas?

El caso no es aislado ni mucho menos nuevo para Meta. En julio pasado, la empresa debió retirar una función que permitía crear imágenes falsas de otros usuarios de Instagram luego de recibir críticas similares por el uso que se hacía de la inteligencia artificial sobre datos de terceros. Lo que está en discusión ahora es más de fondo: si los asistentes de IA deben tener límites explícitos cuando procesan información personal, aun cuando esa información sea pública dentro de la plataforma, y si las grandes compañías están dispuestas a fijar esos límites antes de que los los obliguen a hacerlo. Cada vez que un sistema cruza publicaciones, etiquetas, ubicaciones y rostros para «adivinar» la vida de una familia, deja en evidencia que la privacidad, en redes sociales, dejó de ser un interruptor de encendido y apagado: es, cada vez más, una zona gris que las empresas deciden a su criterio, y a la que solo llegan los usuarios cuando el daño —como en este caso— se vuelve visible.