Durante las recientes comisiones de la Asamblea General de Naciones Unidas, veinte países respaldaron la creación de un régimen de gobernanza mundial de la inteligencia artificial (IA), mediante el establecimiento de un organismo internacional encargado de supervisar y establecer reglas comunes para el desarrollo de esta tecnología. La declaración fue impulsada por Noruega y Finlandia, y entre sus firmantes se encuentran Alemania, Canadá y la Comisión Europea.
Sin embargo, ninguna de las principales potencias tecnológicas —Estados Unidos, China, Reino Unido, Francia, Italia y Japón— adhirió a la iniciativa, dejando fuera a los principales actores de la carrera global por el desarrollo de la inteligencia artificial.
La iniciativa, denominada “Llamamiento al control de los modelos de IA de frontera”, no constituye una resolución vinculante ni un tratado internacional, sino una declaración política. Su importancia radica en que plantea la necesidad de establecer mecanismos internacionales de supervisión sobre los modelos de inteligencia artificial más avanzados, en un contexto en el que los Estados todavía no han alcanzado un consenso global sobre los límites de su desarrollo.
La declaración establece como uno de sus principales objetivos que la inteligencia artificial permanezca bajo la dirección, supervisión y control humanos. Asimismo, propone que los Estados establezcan estándares comunes de regulación y que las empresas tecnológicas adopten protocolos de seguridad transparentes, realicen pruebas obligatorias y lleven adelante evaluaciones de riesgo. También plantea la necesidad de involucrar a los gobiernos cuando los sistemas desarrollados alcancen determinados umbrales de capacidad.
La iniciativa se produce en medio de una creciente preocupación internacional por las consecuencias del desarrollo acelerado de la inteligencia artificial. Naciones Unidas viene señalando desde hace tiempo la necesidad de avanzar hacia una gobernanza global de esta tecnología para reducir las brechas digitales y evitar que sus beneficios y riesgos se distribuyan de manera desigual.
A estas preocupaciones se suma la dimensión geopolítica de la carrera tecnológica. El desarrollo de sistemas de IA requiere grandes cantidades de energía, infraestructura y recursos minerales estratégicos, lo que puede profundizar la competencia internacional por el acceso a estos recursos. Al mismo tiempo, la rivalidad tecnológica entre Washington y Pekín ha convertido a la inteligencia artificial en un área central de competencia económica, tecnológica y estratégica.
En distintos informes, Naciones Unidas también ha advertido sobre riesgos asociados al desarrollo y uso de la IA, entre ellos la desinformación, la discriminación algorítmica, las vulneraciones de la privacidad, los ciberataques y, a más largo plazo, los posibles riesgos vinculados con sistemas de inteligencia artificial altamente avanzados.
En este contexto, el secretario general de Naciones Unidas ha señalado la necesidad de avanzar hacia un desarrollo seguro, protegido y responsable de la inteligencia artificial, y ha llamado a fortalecer la cooperación internacional entre los gobiernos, el sector privado y la sociedad civil.
La discusión sobre quién debe establecer los límites y supervisar el desarrollo de la inteligencia artificial recién comienza. Mientras algunos Estados impulsan la creación de mecanismos internacionales de gobernanza, las principales potencias tecnológicas continúan desarrollando sus capacidades en un escenario marcado por la competencia y la ausencia de una institución mundial con capacidad para establecer reglas comunes. La supervisión de la IA será uno de los grandes debates internacionales de los próximos años.
Por Abigail Pajello.