Sam Altman, director ejecutivo de OpenAI, advirtió que el desarrollo de la inteligencia artificial comporta dos riesgos centrales que, según su propia lectura, deberían guiar la estrategia de regulación y de investigación en los próximos años. El primero de esos riesgos es que la humanidad pierda el control sobre sistemas progresivamente más capaces. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", sostuvo el empresario, en declaraciones que fueron replicadas por distintos medios internacionales.

Alineación al ritmo de las capacidades

Para atenuar ese primer escenario, Altman planteó que las técnicas de alineación y seguridad deben evolucionar a la par de las capacidades de los modelos, o incluso anticiparse a ellas. El razonamiento implícito en sus palabras es que un modelo más potente sin medidas de control equivalentes incrementa la probabilidad de consecuencias no deseadas, motivo por el cual la investigación en seguridad no debería quedar relegada a un segundo plano frente al lanzamiento de nuevas versiones.

Concentración de poder y un "angosto camino intermedio"

El segundo riesgo identificado por el titular de OpenAI refiere a la acumulación excesiva de poder en manos de una persona, una empresa o un país. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. El propio Altman reconoció que evitar ambos escenarios a la vez exige atravesar lo que describió como un "angosto camino intermedio", una metáfora que busca reflejar la dificultad de combinar innovación, seguridad y competencia internacional sin sacrificar ninguno de esos vectores.

Regulación federal, auditores y coordinación entre países

En el plano regulatorio, Altman respaldó la creación de un marco federal que establezca requisitos de seguridad comunes para los modelos de frontera, es decir, aquellos que se ubican en el límite de las capacidades tecnológicas actuales, y que incorpore auditores independientes en los esquemas de supervisión. No obstante, aclaró que las compañías no deberían aguardar la sanción de nuevas leyes para comenzar a aplicar medidas de seguridad por iniciativa propia, una postura que sugiere un umbral de responsabilidad empresaria anterior a la regulación formal.

Sobre la presión competitiva entre naciones, Altman fue tajante: "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia", afirmó, en un mensaje que parece dirigido tanto a rivales internos como a actores externos que pudieran apurar el desarrollo de modelos sin protocolos suficientes. A la vez, señaló que la coordinación internacional constituye uno de los terrenos donde las empresas precisarán el acompañamiento de los gobiernos, dado que la naturaleza transversal de la tecnología excede el alcance de cualquier jurisdicción en forma aislada.

Qué falta confirmar

Restan por definirse varios elementos que el propio Altman no abordó en sus declaraciones. Entre ellos, la arquitectura institucional que daría soporte a los auditores independientes, los criterios técnicos específicos que se exigirán a los modelos de frontera, los plazos para la implementación del marco federal y el alcance efectivo de la coordinación internacional que el directivo mencionó como pieza clave. Hasta tanto se conozcan esos detalles, la advertencia del CEO de OpenAI funcionará más como una hoja de ruta conceptual que como un plan operativo con tiempos y responsabilidades asignadas.