«Estamos tratando a la IA como una fuente de poder en lugar de como el artilugio que es» | El Correo

Astrofísicos, astronautas y un buen puñado de premios Nobel se dan cita esta semana en Tenerife en la séptima edición del Festival Starmus, cuyo cofundador ... es el exguitarrista de Queen (y astrofísico en sus ratos libres) Brian May. Sin embargo, pocos tienen tanto tirón mediático y predicamento intelectual como Steven Pinker. Psicólogo experimental, científico cognitivo, ensayista superventas y catedrático de Harvard, Pinker sigue siendo uno de los pensadores más influyentes de su tiempo, pero también alguien capaz de aportar puntos de vista realmente audaces sobre el origen del lenguaje o de insuflar su optimismo informado y basado en datos sobre el progreso humano. Por eso, en tiempos convulsos, resulta tan urgente escucharle.

– Ha expresado su escepticismo acerca del debate público alrededor de la IA. ¿Qué estamos malinterpretando sobre su capacidad?

– Una de las razones por las que la discusión es tan confusa es que la tratamos como una fuente de poder, un recurso, un combustible, en lugar de como un mecanismo, un artilugio. La IA proviene de algoritmos computacionales que procesan ciertas entradas y producen ciertas salidas y no son una forma de magia o de omnisciencia, no calculan la solución a todos los problemas. Solo son una forma de inferencia.

– Dice que encuentra el riesgo existencial poco convincente. ¿Por qué?

– Por varias razones. Una de ellas es que se hacen analogías falsas, como cuando se dice que, igual que los humanos han confinado a los gorilas a un rincón de la selva, las IA harán lo mismo con nosotros. Hay muchas razones por las que esas dos relaciones son diferentes. Otra es asumir que los sistemas de IA no solo ansiarán el poder, sino que lo buscarán de forma monomaníaca, ignorando las intenciones obvias de los humanos que la crearon. Se inventan escenarios de ciencia ficción que acumulan una improbabilidad sobre otra. Y, a menudo, son las grandes empresas como Anthropic las que están sembrando esos temores ignorando problemas más inmediatos como los ataques de actores malévolos.

– Entiendo que discrepa de Yuval Harari, que compara nuestra relación futura con la IA con la que las vacas tienen con nosotros. Es decir: que no entenderemos nada.

– Las vacas no inventaron a los humanos. Nosotros inventamos la IA. Creo que es una mala analogía.

Teoría de la mente del macho alfa

– Como lingüista, ¿le preocupa que puedan desarrollar un lenguaje propio que nosotros no entendamos?

– Es interesante que puedan hacerlo, como cualquiera que necesita cooperar, pero sin duda es un desafío evitar que obtengan el control de cualquier sistema sin que exista posibilidad de intervención humana.

– Suele usar la «teoría de la mente del macho alfa» para desacreditar los escenarios apocalípticos. ¿En qué consiste?

– Existe la suposición natural de que cualquier cosa que sea inteligente, a medida que lo es más, tendrá un deseo cada vez mayor de dominar, lo cual creo que es una proyección de la psicología humana sobre la inteligencia. Se suele utilizar también el argumento de la convergencia instrumental: que cualquier sistema que alcanza un objetivo solo puede hacerlo si sobrevive, si tiene poder, si tiene recursos. Como se suele decir, no puedes hacer una taza de café si estás muerto. Pero ningún sistema inteligente maximizará su poder en aras de un solo objetivo. Si, por ejemplo, le pedimos a la IA que resuelva el cambio climático y su forma de hacerlo es exterminar a los seres humanos. Cualquier sistema que resuelva ese problema así no será inteligente, sino espectacularmente estúpido artificialmente. Un niño de 7 años entiende eso.

– ¿Los líderes tecnológicos amplifican la narrativa apocalíptica para distraernos de otros desafíos?

– Es la sensación que tengo. Tanto OpenAI como Anthropic fueron fundadas por personas del movimiento racionalista para quienes esa ideología apocalíptica es casi una religión secular. Las recomendaciones prácticas, como que se investiguen los accidentes, que haya supervisión independiente, que las empresas estén sujetas a una responsabilidad estricta... son ingeniería ordinaria que se aplica al transporte aéreo, a la energía nuclear, a las plantas químicas, a las centrales eléctricas... Pero ellos no se mueven en esa dirección.

– Y el gobierno de Estados Unidos ni siquiera les presiona...

– Es irresponsable y negligente, pero Trump siempre es afable con las tecnológicas que le apoyan. Además, China también tendrá que regular para que la IA no dañe sus infraestructuras. No creo que vayamos a una guerra total en la que nuestra IA intente destruir a otro país y la suya al nuestro. Si esa fuera la intención, podrían haberlo hecho hace mucho tiempo con las armas nucleares. Esto no es una competición de suma cero. Ambos países tendrán una IA avanzada y tampoco importará que la nuestra sea un 1% mejor.

– En 'Los ángeles que llevamos dentro' demostró con datos que la violencia ha disminuido de manera constante a lo largo de la historia. ¿La IA puede alterar esa tendencia?

– Dependerá enteramente de la disposición de los países a hacer la guerra, más de lo que ocurra después en el campo de batalla. Hay retrocesos, como cuando Putin decide invadir Ucrania. Y eso no tiene que ver con la IA, sino con lo que ocurre en el cerebro de Putin. No sabemos qué pasará en las guerras en las que la IA desempeñe un papel mayor, pero es ciertamente posible que haya menos bajas que con las armas de artillería y el bombardeo aéreo que mata a decenas y cientos de miles de civiles. La IA, en teoría, podría prevenir eso al limitar los ataques a objetivos militares. Aunque no lo sabemos, de antemano no hay razón para pensar que será más destructiva.

Optimismo informado

– El optimismo escasea a nuestro alrededor. Usted, en cambio, es el intelectual que más lo defiende.

– No es que yo sea optimista, es que miro los datos. No digo: «Sonríe, el vaso está medio lleno». Lo que digo es: «Mira las tendencias sobre muertes por homicidio, por guerras, la mortalidad infantil, la materna, la alfabetización, la pobreza extrema...». Esas variables se han movido en una dirección positiva. Lo que ocurre es que los medios se centran en los acontecimientos del día y desatienden las tendencias a largo plazo.

– ¿Y qué tendencias o datos hacen pensar que nuestra convivencia con la IA será positiva?

– Dependerá, sobre todo, de si estas empresas hacen cosas estúpidas como lanzar productos antes de probar su seguridad. Pero, en general, creo que será como otras tecnologías, como la electricidad, como el fuego. Habrá perjuicios, pero si somos lo suficientemente inteligentes y responsables los beneficios potenciales serán gigantescos. La promesa es enorme. La IA no se creó para desarrollar armas mejores, sino para poder acelerar el descubrimiento de fármacos, el diagnóstico médico, la predicción meteorológica...

– Por cierto, ¿cómo la utiliza usted?

– La uso como motor de búsqueda semántico, para desarrollar materiales didácticos o actualizar las tendencias y gráficos sobre el progreso humano.

– ¿Y ha tratado de mantener una conversación filosófica con ella?

– No, pero sí la uso como tutora para entender áreas difíciles para mí, como la ciencia, las matemáticas o la ingeniería. Le pregunto: «¿He entendido esto?». Y la encuentro realmente útil.