Altman le pone nombre a los dos fantasmas que persigue la inteligencia artificial

Empiezo por una cifra que define el cruce de caminos: la de los modelos de frontera, esos sistemas de inteligencia artificial que se ubican en el límite de lo que hoy puede hacer una máquina. Para Sam Altman, CEO de OpenAI, ahí se juegan los dos riesgos más serios que enfrenta la humanidad en esta carrera tecnológica.

El primero, según declaró, es que las personas pierdan el manejo de herramientas cada vez más autónomas. Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanity, y la IA debe siempre servir a las personas, sostuvo.

El segundo riesgo: que el poder quede en una sola mano

El otro escenario que le preocupa es la concentración excesiva. Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos, advirtió Altman. Reconoció que esquivar ambos peligros al mismo tiempo obliga a transitar por lo que describió como un angosto camino intermedio.

Qué propone para reducir esos riesgos

• Avanzo con la explicación de su plan, paso a paso. Las técnicas de alineación y seguridad deben correr al mismo ritmo que las capacidades de los modelos, o incluso por delante, señala como primera medida.
• Apoya un marco regulatorio federal que fije requisitos de seguridad comunes para los modelos de frontera.
• Pide sumar auditores independientes a los mecanismos de supervisión, aunque aclara que las empresas no deberían esperar nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia.
• Defiende la coordinación internacional entre gobiernos como uno de los puntos donde las firmas necesitan respaldo estatal.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, CEO de OpenAI

Cierro con lo que todavía falta, y acá me pongo en el lugar del lector que se pregunta cómo se traduce todo esto en la vida cotidiana: el propio Altman reconoce que la mayoría de las decisiones concretas sobre cómo auditar, qué estándares aplicar y quién paga los costos todavía están abiertas. El angosto camino intermedio todavía no tiene cartografía, y eso es, a mi entender, lo que debería mantener alertas tanto a los gobiernos como a los usuarios comunes.