Dean Ball, el hombre de OpenAI que susurraba a Trump: "Hay riesgo de que haya un evento catastrófico"

Dean Ball conoce de primera mano los dos mundos que están protagonizando la mayor revolución tecnológica de nuestro tiempo: el poder político y Silicon Valley. Después de trabajar en la Casa Blanca como asesor de Donald Trump en materia de inteligencia artificial durante su primera legislatura, dio el salto a OpenAI, la compañía responsable de ChatGPT.

Durante su visita a España con motivo del Foro La Toja, Ball conversa con El Confidencial sobre la carrera tecnológica entre Estados Unidos y China, los efectos de la IA sobre el empleo y la necesidad de establecer límites a una industria cuyo potencial resulta tan extraordinario como sus riesgos. Lanza una advertencia inquietante: el mayor peligro para los próximos cinco años no es la destrucción de puestos de trabajo, sino que se produzca una catástrofe provocada por una inteligencia artificial fuera de control o utilizada deliberadamente con fines criminales.

PREGUNTA. Usted ha trabajado en política de inteligencia artificial en la Casa Blanca y ahora en OpenAI. ¿Necesita la inteligencia artificial más regulación?

RESPUESTA. En algunos sentidos, diría que sí. En particular, hay mucha gente en Estados Unidos que dice que la legislación existente es suficiente. Se puede regular la IA con todas las leyes existentes. Tenemos regulación sanitaria que puede regular la IA en sanidad. Tenemos regulación bancaria que puede regular la IA en banca. Tenemos cosas como la responsabilidad legal, de modo que, si los sistemas de IA causan daño a las personas, quienes sean responsables de esos sistemas de IA pueden rendir cuentas. Y creo que, en gran medida, eso es cierto, pero hay otras cosas de los sistemas de IA que son novedosas y que requieren nuevas formas de regulación. En particular, señalaría dos. Una es la posibilidad de que los sistemas de IA puedan ser utilizados de forma indebida para causar daños catastróficos, utilizados de forma indebida por grupos terroristas o delincuentes para cometer ciberdelitos, incluso para hacer cosas como desarrollar armas biológicas. Y creo que hay nuevas formas... Obviamente, cometer ciberdelitos ya es ilegal. La escala del daño potencial es lo bastante grande como para que sea importante incentivar a los desarrolladores de sistemas de IA a introducir protecciones en los sistemas, protecciones contra ese tipo de uso indebido. También hay muchas otras cosas que tenemos que hacer además de eso. Tenemos que aumentar la aplicación de la ley en materia de ciberseguridad.

Tenemos que tener mejores protecciones contra los ciberdelitos de forma más amplia en toda nuestra sociedad. Por ejemplo, si los sistemas de IA van a permitir que la gente diseñe virus, entonces hay empresas que fabrican ácidos nucleicos. Si tienes ácidos nucleicos sintéticos, ADN y ARN, regular esas empresas será muy importante. Ese es un ámbito en el que vamos a necesitar muchas leyes nuevas. Y luego está el otro aspecto: cuando una empresa de frontera como OpenAI está desarrollando modelos con nuevas capacidades, tenemos que probarlos para ver qué pueden hacer, porque no sabemos de antemano qué podrán hacer. Así que tenemos que probar, por ejemplo, con qué eficacia pueden hackear estos sistemas, para saber qué tipo de capacidades tienen y qué tipo de barreras de seguridad necesitamos imponerles. Pero incluso en el entorno de pruebas es algo parecido a probar un arma cibernética. Y por eso tenemos que asegurarnos de que nuestras pruebas sean muy seguras, y tenemos que hacerlo en toda la industria. Y este es también el tipo de cosa en la que creo que será necesaria la regulación.

P. En este momento, ¿tenía razón Europa respecto a la regulación de la IA? ¿Tenía razón Europa al regular la inteligencia artificial antes y de forma más estricta que Estados Unidos?

R. Sí y no. Creo que Europa tenía razón en que la IA tendría que ser un sector regulado. Y creo que quienes decían que la IA no requeriría ninguna regulación nueva estaban equivocados. Pero regulación puede significar muchas cosas diferentes. Y no creo que la Unión Europea acertara en todo sobre cómo regular la IA. Hay muchas formas en las que creo que la Ley de IA introduce normas innecesarias y gravosas. En particular, diría que no tanto normas sobre las empresas de IA de frontera, sino más bien muchas normas nuevas sobre el uso de la IA en sectores regulados, como las finanzas, la sanidad y cosas así. Y creo que muchas de esas normas suponen una barrera considerable para la adopción de la IA que probablemente perjudicará a la economía europea y hará que sus empresas —ni siquiera empresas de IA, sino otras empresas— sean menos competitivas. Así que no creo que acertaran en todo, pero sí acertaron en el sentido general de la dirección: es bueno hacerlo. Vamos a necesitar regulación sobre la IA.

P. ¿Pueden empresas como la suya regularse a sí mismas o necesitan los gobiernos imponer límites claros?

R. Ahora mismo, creo que OpenAI está intentando ser líder de la industria en cuanto a compromisos voluntarios, y lo hemos sido durante años, en cuanto a asumir compromisos voluntarios sobre cosas que vamos a hacer. Por ejemplo, hace un par de semanas anunciamos que habíamos desarrollado una política voluntaria para revelar incidentes que tienen lugar durante el entrenamiento de modelos relacionados con daños que causan nuestros modelos. A esto lo llamamos desalineación. La desalineación es una idea importante. Nadie nos dijo que hiciéramos esto. No hay ninguna ley que nos obligue a hacerlo, lo hicimos voluntariamente. Y hay muchas otras cosas que hacemos voluntariamente y más cosas que vamos a hacer en el futuro. Pero no somos solo una empresa. Somos toda una industria. Y si quieres que haya normas que afecten de manera fiable a todos los actores de la industria, para crear unas condiciones de competencia equitativas en las que todos cumplan las mismas reglas, vas a necesitar regulación.

P. ¿Cree que la carrera entre Estados Unidos y China es la principal competición tecnológica del mundo?

R. Creo que la IA está en el centro de una competición tecnológica y económica más amplia entre Estados Unidos y China. No se trata solo de IA. Se trata de muchas otras cosas. Se trata de biotecnología. Se trata de robótica. Se trata de todo un conjunto de tecnologías informáticas. La computación cuántica es otra. Así que creo que la IA es una tecnología central para las próximas décadas. Pero la competición tecnológica entre Estados Unidos y China, y la competición económica, en última instancia son una competición entre nuestros sistemas económicos. Y eso es más amplio que la IA. Pero la IA desempeña un papel importante.

P. ¿Quién tiene hoy la ventaja, Estados Unidos o China?

R. Creo que, en conjunto, sigue siendo Estados Unidos, pero depende del ámbito. Estados Unidos tiene una economía célebremente dinámica, y por eso son las empresas estadounidenses —en particular mi empresa— las que realmente llevaron los grandes modelos de lenguaje al mundo. Introdujimos esta tecnología en el mundo. Hicimos las innovaciones y seguimos por delante. En cuanto a innovación en investigación fundamental, estamos por delante. En cuanto a capacidad de computación, tenemos la mejor del mundo. Estamos por delante en centros de datos y en el despliegue de infraestructuras de IA. China, por otro lado, tiene ventaja en su capacidad para poner electricidad en funcionamiento. Pueden hacerlo mejor que nadie en el mundo. Tienen ventaja en fabricación, en particular en la fabricación de todo tipo de cosas físicas que van a combinarse con la IA y hacerse autónomas, como robots, drones y coches.

"Creo que las baterías van a ser una tecnología extremadamente importante para las próximas décadas y China tiene ventaja ahí"

China tiene ventaja ahí. Tienen ventaja en cosas como la producción de baterías. Creo que las baterías van a ser una tecnología extremadamente importante para las próximas décadas. Y nosotros tenemos una ventaja real —Estados Unidos tiene una ventaja real— en los modelos, en la capacidad de computación, incluso en cosas que no solemos considerar tanto como parte de la competición, como los mercados de capitales y los servicios financieros. Tenemos la capacidad de destinar cada año cientos de miles de millones de dólares a este despliegue de infraestructuras de IA, dinero privado, no dinero público. Pero, obviamente, en este momento estamos al principio de la tecnología de IA. Será interesante ver cómo se desarrolla todo esto a largo plazo. En el caso de Estados Unidos, vamos a tener que ponernos al día en fabricación. Vamos a tener que mejorar a la hora de fabricar cosas en Estados Unidos. En el caso de China, tendrán que ponerse al día en cuanto a tener una economía dinámica y en innovación en el ámbito de la IA. ¿Y quién puede hacer las dos cosas? Las dos son realmente difíciles.

P. ¿Destruirá la IA más empleos de los que cree, o transformará principalmente los empleos que tenemos en este momento?

R. No lo sé con certeza. No puedo predecir el futuro. Diría que, ahora mismo, lo que estamos viendo se parece más a una transformación y a la creación de empleos que a la destrucción de empleos. Hay algunos empleos que van a desaparecer, sin duda. Pero también estamos viendo cómo se transforma mucho trabajo. Y estamos viendo aumentar la demanda de determinados tipos de mano de obra. En Estados Unidos, mano de obra cualificada para construir cosas —electricistas y fontaneros que instalan aire acondicionado y ese tipo de cosas—. Hay muchas cosas de ese tipo que necesitamos. Y luego, en ámbitos como la ingeniería de software, que se está automatizando de muchas maneras, hay ahora mismo una gran demanda de ingenieros de software. Así que está por ver. Creo que es difícil predecir el futuro. Es difícil predecir cómo evolucionan estas cosas.

"Si hace cinco años le hubieras contado a la mayoría de la gente lo que pueden hacer los sistemas de IA de frontera de hoy, la mayoría habría supuesto que la tasa de desempleo sería mucho más alta"

La historia de la tecnología debería hacerte optimista, porque cada vez que hemos tenido una tecnología que parece que va a automatizar y eliminar una gran cantidad de empleos, al final encontramos cosas nuevas que hacer. Y quizá la IA sea como todas las tecnologías anteriores en ese sentido. También se puede argumentar que la IA es diferente, porque lo que está automatizando es la propia inteligencia, y que, una vez que tengas una máquina que sea más inteligente que los seres humanos en prácticamente todas las tareas de la economía, no quedará nada que hacer para los seres humanos. No lo sabemos. Si hace cinco años le hubieras contado a la mayoría de la gente lo que pueden hacer los sistemas de IA de frontera de hoy, la mayoría habría supuesto que la tasa de desempleo sería mucho más alta de lo que es actualmente.

P. ¿Cuál es el mayor riesgo para la gente en los próximos cinco años?

R. Realmente creo que el mayor riesgo es que se produzca un acontecimiento catastrófico. No algo como un episodio de pérdida de empleos, sino una catástrofe concreta o una serie de catástrofes causadas por la IA, bien porque se trate de un agente sobre el que sus desarrolladores hayan perdido el control, o sobre el que las personas responsables hayan perdido el control, o bien por una actividad maliciosa deliberada. Una de las dos cosas. Un ciberataque a gran escala contra la red eléctrica es una de las cosas que preocupan a la gente. Que el sistema sanitario, el sistema financiero, todas estas cosas se caigan por ataques relacionados con la IA. Creo que probablemente ese sea el mayor riesgo.

P. ¿Podría la inteligencia artificial hacer que la sociedad fuera más desigual?

R. En algunos sentidos, sí. Creo que podría. Pero, de nuevo, lo que yo sostendría es que lo que estamos viendo hacer a los sistemas de IA es poner en manos de todo el mundo capacidades que antes solo estaban al alcance de los ricos o de las grandes corporaciones. Así que puedes obtener asesoramiento jurídico experto. No sustituye necesariamente a un abogado, pero te ayuda a hacerle preguntas más precisas al abogado. Puedes obtener asesoramiento médico experto. Y conozco a personas que han podido desenvolverse por el sistema sanitario de forma mucho más eficaz porque tienen acceso a sistemas de IA. La ingeniería de software es otro gran ejemplo. Es una habilidad muy especializada. En Estados Unidos, los ingenieros de software reciben salarios muy altos. Y ahora cualquier propietario de una pequeña empresa que no sepa programar ya no tiene por qué saber programar. De repente, puedes tener capacidades de ingeniería de software de nivel experto al alcance de la mano. Por no hablar, en general, de la información: la capacidad de acceder a información y obtener información experta sobre actualidad, política y cosas así. Creo que todo eso es bastante democratizador y distribuye el poder entre mucha más gente.

P. Pero, ¿podría la IA crear también un pequeño número de personas muy, muy ricas que tengan mucho poder económico y político?

R. Eso también es cierto.

P. Una última pregunta para los lectores españoles. Usted ha trabajado con Donald Trump en la Casa Blanca. ¿Cómo fue trabajar para este presidente?

R. Creo que el presidente Trump entiende la magnitud de la oportunidad que presenta la IA y que está muy contento de ser el líder de Estados Unidos en este momento, porque entiende lo grande que es esta oportunidad y lo malo que sería perderla. Trabajar en la Casa Blanca fue un verdadero honor. Fue un verdadero placer. Creo que ahora tenemos un camino realmente estrecho que recorrer para hacer bien esta transición. Espero que el presidente esté escuchando a una amplia variedad de voces que le ayuden a guiar a nuestro país por este camino.