La ONU ha informado acerca de la formación de un comité asesor a nivel mundial centrado en la regulación de la inteligencia artificial. António Guterres, el secretario general, detalló que dicho grupo está compuesto por 39 expertos de diferentes partes del mundo. Esta comisión analizará los desafíos que esta tecnología presenta y diseñará propuestas de cómo el trabajo conjunto a nivel internacional puede afrontar tales retos.
Así lo comunicó Guterres en una rueda de prensa reciente:
Evitando caer en visiones catastróficas, ya es evidente que un uso inadecuado de la inteligencia artificial puede socavar la confianza en las instituciones, debilitar la unidad social y poner en peligro la democracia en sí.
El funcionario afirmó que la iniciativa promoverá un «diálogo mundial de diversas disciplinas», integrando a múltiples sectores involucrados.
Los miembros del grupo fueron escogidos por la oficina del Representante del Secretario General de la ONU en Tecnología, teniendo en cuenta opiniones de entidades como Unesco. La dirección del comité recae en dos copresidentes: Carme Artigas, Secretaria de Estado de Digitalización e Inteligencia Artificial de España, y James Manyika, alto ejecutivo de Google-Alphabet.
Dentro del directorio se encuentran también figuras como Natasha Crampton, líder en el área de inteligencia artificial en Microsoft, y Mira Murati, directora técnica en OpenAI. Se han incorporado representantes gubernamentales de países como México, Rusia, Kenia, Brasil y Alemania. Asimismo, se integra un nutrido grupo de académicos de instituciones renombradas como la Universidad de Tokio y la Universidad de Stanford.
I launched my High-Level Advisory Body on Artificial Intelligence.
This is the starting point for a global conversation on the governance of AI, so that its benefits to all of humanity are maximized, and the risks contained & diminished. pic.twitter.com/ULVC762LYo
— António Guterres (@antonioguterres) October 27, 2023
¿Cuál es el propósito del reciente comité de la ONU sobre inteligencia artificial?
La propuesta del comité consultivo de la ONU dista bastante de lo que Sam Altman, CEO de OpenAI, había sugerido anteriormente . El director de la compañía detrás de ChatGPT propuso en su momento la necesidad de una entidad similar a la Agencia Internacional de Energía Atómica (OIEA).
Altman sugirió que una entidad así podría conceder licencias a sistemas de inteligencia artificial de alto nivel o revocarlas en caso de que no se cumplan ciertos estándares de seguridad. Y alerto que:
Si no se gestiona adecuadamente esta tecnología, las consecuencias podrían ser graves.
Guterres se ha mostrado a favor de una entidad supervisora de carácter internacional. No obstante, señaló que solo los miembros de la ONU tienen el poder de crear tal entidad, excluyendo a su secretaría.
El propósito principal del comité asesor de la ONU es revisar con regularidad los pactos de regulación en inteligencia artificial y brindar recomendaciones al respecto. A finales de 2023, se espera un informe preliminar. El informe final verá la luz antes del 31 de agosto de 2024. Se anticipa que dicho documento podría contener «sugerencias concretas sobre las responsabilidades, estructura y tiempos para la creación de una nueva agencia global encargada de la regulación de la inteligencia artificial», según un comunicado previo de la ONU .
Nuevos movimientos en el panorama
Guterres señaló que, en la actualidad, el saber sobre la inteligencia artificial se halla en manos de unas pocas empresas y naciones. Esta realidad, mencionó, podría «acentuar las disparidades globales y transformar las divisiones digitales en grandes precipicios».
Entre las posibles consecuencias negativas, se encuentra la propagación acelerada de noticias falsas y desinformación, así como el refuerzo de sesgos y actitudes discriminatorias, segúnapuntó su oficina en un comunicado reciente. Otros peligros identificados incluyen cuestiones relacionadas con la supervisión excesiva, intromisión en la vida privada, estafas y demás infracciones a los derechos humanos.
Paralelamente al recién creado comité de la ONU, se están gestando otras dos importantes iniciativas globales en torno a la inteligencia artificial. La primera es promovida por el Reino Unido, que ha convocado la próxima Cumbre de Seguridad en Inteligencia Artificial, programada para noviembre, con la participación de líderes de diversos países. Por otro lado, la segunda iniciativa es impulsada por los países del G7 , quienes acordaron en septiembre la elaboración de un código de ética no obligatorio. Se anticipa que un borrador inicial de este código se dé a conocer antes de que termine el año.