Anthropic les abrió la puerta a seis auditores externos: podrán publicar sin que la empresa los tape la boca

La decisión ya está tomada y el dato merece ser subrayado: Anthropic resolvió darles a seis investigadores de METR, una organización sin fines de lucro dedicada a evaluar sistemas de inteligencia artificial, el mismo nivel de acceso que tiene un empleado del área de evaluación de riesgos. Los auditores recibieron computadoras de la empresa, espacio físico en sus oficinas y herramientas internas, y pueden conversar con el personal como cualquier colega.

Hay que decirlo con todas las letras: la compañía construyó este esquema porque entiende que un control útil de la inteligencia artificial no puede limitarse a mirar los modelos desde afuera. Por eso, además del acceso equivalente al de un empleado, METR ganó la facultad de publicar evaluaciones, reportes de incidentes y análisis de prácticas sin que Anthropic pueda impedirlo. La única excepción son tres categorías estrechas y predefinidas: datos de clientes, información cubierta por secreto profesional entre abogado y cliente, y detalles sobre la arquitectura de los modelos. Incluso en esos casos, METR queda libre de señalar públicamente si considera que la redacción pedida estaba o no justificada.

Tres niveles y un solo inquilino en el más alto

El programa tiene tres categorías. En la base, organizaciones como SecureBio realizan revisiones acotadas y necesitan autorización previa antes de publicar. En el escalón intermedio, los evaluadores reciben más información y pueden difundir sin pedir permiso. El nivel superior, que hoy ocupa únicamente METR, suma el acceso de empleado y la garantía de publicación sin restricciones previas. La propia Anthropic trazó las cuatro condiciones que, a su criterio, debe cumplir una auditoría para ser útil: experiencia técnica suficiente para detectar cuándo un modelo finge estar alineado en lugar de estarlo realmente; independencia económica y operativa respecto de la empresa auditada; acceso que vaya más allá de los modelos e incluya cómo se entrenaron y cómo funcionan sus mecanismos de seguridad; y libertad para publicar sin restricciones previas.

El equipo de METR ya había revisado varios informes de riesgo durante el año anterior a recibir este nivel ampliado. Ahora la compañía lo dejó claro: parte de la información de seguridad no puede hacerse pública porque podría ser útil para actores maliciosos o resulta sensible desde lo comercial. La salida que eligió fue abrir un acceso profundo a un grupo acotado, con acuerdos exigibles, y mantener al resto del personal de METR aislado de ese trabajo.

Lo que se sabe y lo que aún no

• Acceso equivalente al de un empleado del área de evaluación de riesgos de Anthropic.
• Computadoras, oficina y herramientas internas provistas por la empresa a los seis investigadores.
• Tres categorías de información vedada: datos de clientes, secreto legal y arquitectura de los modelos.
• Potestad de publicar evaluaciones, reportes de incidentes y análisis sin veto empresarial.
• METR puede señalar públicamente si la redacción pedida en zonas vedadas le parece injustificada.
• Cuatro criterios definidos por Anthropic para una auditoría útil: experiencia técnica, independencia, acceso profundo y libertad de publicación.
• El resto del personal de METR queda fuera del trabajo con acceso ampliado.

La promesa quedó escrita en el reglamento interno del esquema. Falta la prueba de fuego: cuando los auditores publiquen su primera evaluación bajo estas reglas, la dirigencia de Anthropic deberá explicar si está dispuesta a bancar un informe incómodo o si los acuerdos exigibles terminan siendo, como tantas veces, letra chica. ¿Aceptará la compañía que se conozca al detalle cómo entrena y resguarda sus modelos, o mostrará los dientes cuando los datos empiecen a incomodar?