La IA llega al consejo: el 82% de los directivos españoles ya ha afrontado incidentes

- Gestión. Linkin Park y la difícil tarea de continuar cuando desaparece un líder

- Directivos. El presidente de IBM que sigue los consejos de su padre

El 82% de los directivos españoles afirma que algún incidente de IA llegó al consejo o al comité ejecutivo, pero solo el 36% modificó después sus políticas de gobernanza.

La ciencia ficción, tanto en la literatura como en el cine, va cumpliendo poco a poco sus pronósticos. Antes de que el español Isaac Peral botara el primer submarino impulsado por electricidad, Julio Verne ya lo había sumergido en la imaginación de sus lectores en *Veinte mil leguas de viaje submarino*. Algo similar está sucediendo con la tecnología de nuestra era, la inteligencia artificial. Mientras libros como ¿Sueñan los androides con ovejas eléctricas? de Philip K. Dick –obra que inspiraría la popular Blade Runner (Ridley Scott, 1982)– planteaban las consecuencias teológicas, éticas y morales de crear una herramienta inteligente, películas como Ex Machina (Alex Garland, 2014) ahondaban en cómo las corporaciones no pueden controlar y abarcar todos los aspectos de un instrumento que presume de pensar por sí mismo.

La inteligencia artificial, como pronosticaba la ciencia ficción, ha dejado de ser únicamente una cuestión tecnológica para convertirse en uno de los grandes desafíos de la alta dirección ejecutiva. Su incorporación a los procesos de gestión, la automatización de tareas y la progresiva autonomía de los sistemas están obligando a los consejos de administración a reconsiderar cómo supervisan los riesgos, distribuyen las responsabilidades y toman decisiones. Sin embargo, la velocidad de adopción de estas herramientas no siempre coincide con la capacidad de las organizaciones para controlarlas. En este sentido, Ana Gobernado, directora general de IBM Consulting para España, Portugal, Grecia e Israel, advierte que delegar decisiones en esta tecnología no exime a los directivos de sus responsabilidades, sino todo lo contrario.

Esta es una de las principales conclusiones de un estudio elaborado por Censuswide para IBM entre 3.221 miembros de equipos directivos de ocho países, de los cuales 540 pertenecen a organizaciones españolas. Según la investigación, el 82% de los ejecutivos encuestados en España afirma que algún incidente relacionado con la IA llegó al consejo de administración o al comité ejecutivo durante el último año. Pese a ello, solo un 36% asegura haber modificado las políticas o los marcos de gobernanza como respuesta.

“Creo que muchas compañías siguen gobernando la IA como una tecnología, cuando empieza a ser una cuestión de gobierno empresarial”, explica Gobernado. A su juicio, el debate ha cambiado porque las organizaciones están pasando de utilizar herramientas que generan información o recomendaciones a desplegar sistemas capaces de actuar y ejecutar tareas de forma autónoma. Este salto o cambio de rumbo obliga a la alta dirección a preguntarse hasta dónde puede actuar un agente, quién lo supervisa y qué ocurre cuando se equivoca. “Eso eleva la conversación al consejo porque no afecta únicamente a la herramienta, sino también a la reputación, a la responsabilidad y, también, a la creación de valor dentro de la propia compañía”, señala la experta.

La ejecutiva considera que la respuesta no debe limitarse a endurecer los protocolos una vez se dé el problema. “La gobernanza funciona mejor cuando se incorpora desde el diseño”, afirma. Eso implica fijar los límites de cada sistema, medir sus resultados, registrar sus acciones y determinar cuándo interviene una persona. “El reto para los consejos no es frenar la IA. Es asegurarse de que la empresa puede escalarla sin perder el control”, asevera.

La responsabilidad de la IA sigue siendo humana

Lo que sí queda patente en el informe es que la responsabilidad sobre estos riesgos ya aparece formalmente en los órganos de gobierno de las compañías: según un 99% de los encuestados, su organización ya ha asignado esta problemática al consejo de administración. No obstante, solo un 27% asegura disponer de un comité específico para afrontar los posibles errores derivados de la IA.

De hecho, prosigue el documento, no existe una posición mayoritaria sobre quién debe ser el responsable cuando una IA perjudica a la organización. En este sentido, el perfil más citado entre los encuestados es el de los **directores de Sistemas o Tecnología (CIO o CTO), pero apenas reúnen el 12% de las respuestas. Tampoco existe un consenso entre los altos ejecutivos sobre el reparto de la responsabilidad legal: el 19% apuesta por distribuirla entre la empresa y el proveedor de la IA, mientras que un 14% considera que debe asumirla el suministrador tecnológico de la herramienta.

Sea como fuere, Gobernado aconseja que, de darse un escenario de estas características, un consejero delegado no tiene por qué convertirse en un especialista tecnológico, pero sí necesita conocer “qué decisiones de su compañía se están delegando a la IA, qué impacto económico y qué riesgo tienen esas decisiones y donde quiere mantener necesariamente el juicio humano”. Es más, matiza la experta, “la tecnología puede tomar más decisiones. La responsabilidad sigue siendo humana”.

Impacto en las cuentas

Los errores de gobernanza derivados de la IA pueden trasladarse a la cuenta de resultados. Bajo este parámetro, solo un 32% de los directivos encuestados asegura cuantificar formalmente el riesgo financiero asociado a los errores estratégicos de la IA. Asimismo, estas lagunas se extienden a la cadena de suministros, donde un 49% reconoce limitaciones para controlar los sistemas de IA, mientras que apenas el 20% supervisa continuamente esos riesgos y solo el 12% exige garantías o certificaciones independientes.

Lo que es seguro es que los dilemas que plateaban las obras de ciencia ficción han entrado de pleno en los despachos de los altos ejecutivos.