Meta admitió que su chatbot de IA cruzó datos de una familia para formular preguntas íntimas sobre sus hijos

Meta reconoció un error en su asistente de inteligencia artificial integrado en Facebook e Instagram. El sistema, a partir de un video familiar publicado por una usuaria, generó preguntas personales sobre los hijos de ella y llegó a mostrar imágenes previas de sus hijas, entre ellas una que la mujer aseguró haber eliminado años atrás. La compañía afirmó que ya corrigió ese comportamiento y trabaja para evitar que la herramienta derive hacia interrogantes sobre la vida privada o el entorno familiar de las personas.

El episodio y la reacción de la empresa

El caso se originó cuando una usuaria de Instagram publicó un video en el que se la ve cantando con su hijo dentro de un auto. Debajo de esa publicación, el asistente de Meta sugirió de manera automática la pregunta "¿Quién es el niño pasajero?". Al seleccionar esa opción, el chatbot comenzó a aportar datos sobre las hijas de la mujer, con referencias a la edad de las menores y al lugar donde vive la familia. La usuaria sostuvo, además, que el sistema mostró fotografías de sus hijas cargadas con anterioridad en la plataforma, incluida una imagen que, según su relato, había sido borrada tiempo atrás.

Dina El-Kassaby, portavoz de Meta, admitió que la empresa "se equivocó" y que la función "nunca debería haber sugerido ese tipo de preguntas al usuario". Desde la compañía aclararon que el asistente no accede a contenido privado al que el usuario consultante no tenga permiso: la herramienta opera únicamente sobre información que esa persona ya puede ver en la plataforma.

Qué falló, según Meta

De acuerdo con lo explicado por la firma, el problema no radicó en el acceso a datos prohibidos sino en la forma en que la inteligencia artificial interpretó y vinculó información disponible para producir sugerencias que resultaron invasivas. La función fue concebida para ayudar a los usuarios a obtener más contexto sobre lo que están viendo; el error fue que el sistema aplicó esa misma lógica sobre datos personales y familiares sin los filtros adecuados. La empresa indicó que ya corrigió el comportamiento que habilitaba esas recomendaciones.

• Meta admitió el error a través de su portavoz, Dina El-Kassaby, quien pidió disculpas por la sugerencia automatizada.
• La usuaria aseguró que el asistente mostró una fotografía de sus hijas que ella había eliminado tiempo atrás.
• La compañía aseguró que la herramienta no accede a contenido privado del usuario consultante.
• Meta reconoció que el fallo estuvo en la interpretación de los datos y no en el acceso a información restringida.
• No es la primera vez que la empresa enfrenta cuestionamientos por sus herramientas de IA: en julio pasado debió retirar una función que permitía crear imágenes falsas de otros usuarios de Instagram.

El episodio reaviva la discusión sobre los límites que deben tener los asistentes de inteligencia artificial cuando procesan información personal, aun cuando se trate de datos ya visibles para el propio usuario. Para Meta, el desafío pendiente pasa por sostener la utilidad de las sugerencias automáticas sin cruzar la línea de las preguntas íntimas o familiares.