Hinton mira a la IA como quien mira al fuego: el pibe que la prendió ahora dice que nos podemos quemar

Imagine, estimado lector, el siguiente escena: usted deja enchufado el horno, sale a comprar el pan y cuando vuelve encuentra la cocina en llamas. Ahora multiplique esa sensación por toda la civilización humana. Eso, más o menos, es lo que viene diciendo Geoffrey Hinton, el señor de 78 años al que le debemos buena parte de lo que hoy llamamos inteligencia artificial generativa.

Hinton no es un alarmista de Instagram ni un jubilado enojado con el progreso. Es el científico que puso los ladrillos del aprendizaje profundo, trabajó en Google hasta 2023 y renunció, justamente, para poder hablar sin que le firmaran los tuits. Y lo que dice, básicamente, es que la humanidad nunca estuvo rodeada de entidades más listas que ella misma, y que ese punto ciego es, hoy, el riesgo más grande que enfrenta nuestra especie.

Los números que asustan y el reloj que corre

La cifra que está dando vueltas por todos los diarios del mundo es esta: entre un 10 y un 20 por ciento de probabilidades de que una superinteligencia artificial provoque nuestra extinción en los próximos treinta años. O sea, antes de 2055. Para dimensionarlo, pensemos que eso es más o menos lo mismo que le digo a mi señora cada vez que subo al techo a arreglar las tejas: una de cada cinco chances de que termine en el piso.

Hinton aclara que ese rango es, en parte, culpa del vértigo con el que avanzan los modelos. Hace una década él mismo manejaba proyecciones más amables. La velocidad, dice, superó sus propios cálculos.

“Sin regulación, es como manejar un auto cada vez más rápido sin volante: a más velocidad, más chances de terminar en la banquina. Y la banquina, en este caso, somos todos.”Geoffrey Hinton, en diversas intervenciones recientes

Qué cambió en los modelos de lenguaje

Acá viene el punto que más me hizo pensar, y se lo traduzco a la cocina de cualquier casa. Hasta hace poco, los modelos de IA eran como ese loro que repite todo lo que escucha en la radio: parecía que hablaba, pero en realidad solo imitaba patrones. Lo que Hinton sostiene hoy es que los sistemas más avanzados ya no se quedan ahí: comprenden de verdad los conceptos abstractos, no solo las correlaciones estadísticas entre palabras.

Traducido en criollo: ya no es un loro decorativo. Es un loro que entendió lo que le decimos, lo procesa y puede tomar decisiones en función de eso. Y eso, dice el británico-canadiense, cambia la categoría del riesgo. No es un programa más potente, es otra cosa.

El mercado solo, no alcanza

Hay un argumento que aparece cada vez que se habla de regular la IA, y que suena más o menos así: si le ponemos límites a las empresas de un país, otros países nos sacan ventaja. Hinton escucha ese razonamiento y lo descarta con cara de profesor cansado. Según él, confiar en la autorregulación del mercado ante una amenaza existencial es un error estratégico del tamaño de una casa. La competencia geopolítica, dice, no puede ser excusa para postergar leyes globales.

Y acá me hago cargo de mi propia torpeza: durante años formé parte del coro que decía que la tecnología se regula sola, que el mercado corrige, que no hay que ahogar la innovación. Hinton, que la inventó, me dice hoy que estaba equivocado. Cuando el que prendió la mecha te dice que el fuego se puede ir de las manos, conviene escucharlo.

La ventana para actuar, insiste, se está achicando. La humanidad todavía puede decidir qué tipo de sistemas quiere construir, pero ese margen se reduce a medida que los modelos ganan capacidad de forma autónoma. Dicho de otro modo: mientras debatimos en grupos de WhatsApp, la IA ya está aprendiendo a jugar al ajedrez sin tablero.