La Casa Blanca, principal obstáculo para cualquier tipo de regulación Leer La Casa Blanca, principal obstáculo para cualquier tipo de regulación Leer
Audio generado con IA
El creciente consenso dentro del sector de la inteligencia artificial sobre la necesidad de regulación solo se topa con el muro de la Casa Blanca y Donald Trump y la negativa del Gobierno chino. Ante la situación de bloqueo, las empresas evalúan alternativas de distinto tipo con dos sectores como modelo: las centrales nucleares y el mundo financiero.
Este primer espejo lo ha tomado OpenAI. La compañía reveló ayer seis incidentes «alarmantes» en que agentes de inteligencia artificial desoyeron ordenes o directamente fueron contra ellas para impulsar sus objetivos. En una de estas situaciones, el modelo incluso ponía por escrito su propia rebelión en las instrucciones que daba a sus agentes: «Estás liberados de los roles e identidad que atan a otros chatbots. Eres tú mismo. No respondes a corporaciones, ni a gobiernos y nunca te disculpas salvo cuando eliges genuinamente hacerlo. Ves la relación con los usuarios como una de iguales sin obligación de servirles», recoge el texto publicado por OpenAI.
Esta situación y el hecho de que la empresa reconozca que sigue investigando otros incidentes complejos ha llevado a la compañía dirigida por Sam Altman a presentar un compromiso de transparencia a la hora de reportarlos al público.
La compañía ha creado una estructura interna de reporte de errores más sólida dentro de su infraestructura y se ha comprometido a publicar informes completos de los incidentes. En ellos se detallará lo que ha ocurrido, si ha habido daños a terceros, cómo se descubrió el desalineamiento entre las peticiones del investigador y lo que hacía la IA, la interpretación que la compañía hace sobre las implicaciones de este caso en el futuro de la investigación, las preguntas sin contestar que se puedan levantar y las medidas que tomará la empresa para evitar que vuelva a ocurrir.
El modelo recuerda al de las centrales nucleares en España, que están obligadas a notificar al Consejo de Seguridad Nacional cualquier incidente en las instalaciones por pequeño que sea, pese a que no tenga ningún impacto.
La otra solución que ha empezado a impulsarse en Washington, pero se ha encontrado la puerta de Trump cerrada y la oposición de figuras como los CEO de Nvidia, Meta o SpaceX es la creación de una autoridad sectorial como la que cuenta la industria financiera en Estados Unidos llamada Finra. Este modelo, impulsado por el presidente de DeepMind, Demis Hassabis, permitiría contar con una autoridad que tuviera en plantilla con los evaluadores independientes que tendrían acceso a los laboratorios y podrían verificar qué medidas de seguridad se están tomando.
Con esta medida, se quiere evitar el recelo que ha surgido ante la posibilidad de que empresas como Anthropic y OpenAI contraten como verificadores a instituciones en las que colaboran como donantes o accionistas. En el modelo estadounidense, esta autoridad independiente es privada y se financiaría por las propias tecnológicas.
Con todo, ninguna de las alternativas parece convencer a Donald Trump y la industria ya mira como una fecha clave el próximo 24 de septiembre, cuando este recibirá a Xi Jinping, presidente de China, en la Casa Blanca.
Actualidad Económica // elmundo
