Geoffrey Hinton, el científico británico-canadiense de 78 años que durante décadas dirigió los equipos que cimentaron las bases del aprendizaje profundo, encendió una nueva alarma global. En una reciente serie de declaraciones públicas, el investigador -que dejó su puesto en Google en 2023 para poder hablar sin restricciones- aseguró que la humanidad nunca antes había convivido con entidades más inteligentes que ella misma, y calificó a ese punto ciego como el principal riesgo del momento.

Una estimación que recorre el mundo

La cifra que más circuló es la siguiente: Hinton calculó entre el 10 % y el 20 % de probabilidades de que sistemas superinteligentes provoquen el fin de la especie humana dentro de un horizonte de treinta años. El propio investigador atribuyó ese rango a la velocidad de desarrollo, que superó con creces las proyecciones que manejaba hace apenas una década. No se trata, aclaró, de un catastrofismo aislado: a su entender, la aceleración registrada en los últimos años volvió obsoletos los plazos que la comunidad científica manejaba como prudentes.

El argumento central que expuso no pasa por calificar a la tecnología como intrínsecamente mala, sino por reconocer que la velocidad de avance supera con holgura la capacidad de los marcos regulatorios vigentes para contenerla. Para graficar la situación, el científico recurrió a una imagen concreta: comparar la innovación tecnológica con el acelerador de un automóvil. Sin volante, sostuvo, más velocidad equivale a más peligro. En su esquema, la regulación gubernamental cumple ese rol de dirección.

Modelos que ya comprenden, no solo imitan

Un punto que el padre del deep learning destacó con énfasis fue la naturaleza de los modelos de lenguaje más avanzados. Según su análisis, estos sistemas dejaron de limitarse a detectar correlaciones estadísticas en enormes volúmenes de texto y pasaron a comprender efectivamente los conceptos semánticos y abstractos que procesan. Esa diferencia, advirtió, cambia la categoría del riesgo y obliga a revisar las estrategias de control.

“Sin regulación, más velocidad equivale a más peligro. La humanidad todavía puede definir la orientación ética de los sistemas que está construyendo, pero ese margen se achica a medida que los modelos ganan capacidad de forma autónoma.”Geoffrey Hinton

Rechazo a la autorregulación y llamado a leyes globales

• Confiar en la autorregulación del mercado ante una amenaza de esa escala constituye, a su juicio, un error estratégico.
• La competencia geopolítica no puede ser razón suficiente para postergar la sanción de marcos legales globales.
• La ventana de acción se cierra con rapidez, dado que los modelos ganan capacidad de forma cada vez más autónoma.
• El investigador reclamó regulación estatal inmediata y leyes con alcance internacional, sin distinción de jurisdicciones.

Desde la sección Policiales y judiciales, la lectura del fenómeno no se agota en su faz tecnológica: cada nuevo salto de los modelos reordena el debate sobre derechos digitales, responsabilidad civil y hasta sobre la cadena de mando de quien decide cuándo un sistema debe ser apagado. Hinton dejó la pelota en la cancha de los Estados y, por ahora, no hay certezas sobre quién tomará primero ese volante que, según advirtió, la humanidad todavía está a tiempo de girar.