El acuerdo se produjo durante una sesión virtual de la Cumbre sobre Seguridad de la IA organizada conjuntamente por Corea del Sur y el Reino Unido
Diez países y la Unión Europea crearán más institutos de seguridad de inteligencia artificial (IA) para alinear la investigación sobre normas y pruebas de aprendizaje automático.
La red internacional se acordó durante la Cumbre sobre Seguridad de la IA celebrada en Seúl (Corea del Sur), en la que los líderes mundiales se reunieron virtualmente.
Reunirá a científicos de instituciones públicas, como el Instituto de Seguridad de la IA del Reino Unido, para compartir información sobre los riesgos, capacidades y limitaciones de los modelos de inteligencia artificial.
El grupo de instituciones también supervisará «incidentes específicos de seguridad de la IA» cuando se produzcan. «La IA es una tecnología enormemente apasionante; pero para sacarle partido, debemos asegurarnos de que es segura», declaró el primer ministro británico, Rishi Sunak, en un comunicado de prensa.
«Por eso estoy encantado de que hayamos llegado a un acuerdo para crear una red de Institutos de Seguridad de la IA».
¿Qué países están detrás de los nuevos institutos de seguridad?
Entre los firmantes de esta nueva red de Institutos de Seguridad de la IA figuran la UE, Francia, Alemania, Italia, el Reino Unido, Estados Unidos, Singapur, Japón, Corea del Sur, Australia y Canadá.
El Reino Unido afirma haber creado el primer Instituto de Seguridad de la IA del mundo el pasado noviembre, con una inversión inicial de 100 millones de libras (117.4 millones de euros). Desde entonces, otros países como Estados Unidos, Japón y Singapur han puesto en marcha los suyos.
La misión del Instituto de Seguridad de la IA del Reino Unido es «minimizar las sorpresas que puedan causar al Reino Unido y a la humanidad los avances rápidos e inesperados de la IA», según reza un comunicado de prensa del Gobierno británico de noviembre de 2023.
La UE, una vez aprobada la Ley de IA propia de UE, se prepara para poner en marcha su oficina de IA. La Comisión Europea ya había declarado que contrataría al director de la nueva oficina una vez que la ley estuviera totalmente aprobada.
Ursula von der Leyen, Presidenta de la Comisión Europea, declaró en la Cumbre sobre seguridad de la IA del año pasado, que la oficina de IA tendría y debería tener una «vocación global» para poder «cooperar con entidades similares de todo el mundo».
Los líderes también suscribieron durante esta conferencia la ‘Declaración de Seúl’, de mayor alcance, que declara la importancia de una «cooperación internacional reforzada» para desarrollar una IA centrada en el ser humano y digna de confianza.
El primer día de la Cumbre sobre Seguridad de la IA, celebrada esta semana, de las mayores empresas tecnológicas del mundo, entre ellas Open AI, Mistral, Amazon, Anthropic, Google, Meta, Microsoft e IBM, acordaron una serie de compromisos de seguridad.
La lista incluye el establecimiento de umbrales para determinar cuándo los riesgos de la IA son demasiado elevados y la transparencia al respecto. Una declaración del Gobierno británico, co-anfitrión del evento, lo calificó de «primicia histórica».
Francia acogerá la próxima cumbre sobre el uso seguro de la IA.
Fuente Euronews
About Author
