La regulación de la IA se ha vuelto urgente. La experiencia del OIEA en materia de salvaguardias puede proporcionar un modelo para la reglamentación de la IA por parte de un Organismo Internacional de Inteligencia Artificial (IAIA), cuyo mandato sería la verificación objetiva e independiente de los sistemas nacionales de IA. Esto es necesario para proporcionar garantías del desarrollo pacífico y el uso de la IA en los Estados participantes y para identificar / prevenir aplicaciones peligrosas de IA.
Frances Mautner Markhof, 19 de mayo de 2023
La regulación internacional es esencial para garantizar la seguridad, fiabilidad y transparencia de la Inteligencia Artificial (IA) basada en grandes modelos de lenguaje o aprendizaje profundo como Chat GPT y GPT-4.
Mientras que la UE y China están en el proceso de introducir dicha regulación, Estados Unidos ha adoptado hasta ahora un enfoque de laissez faire, permitiendo a los Estados y empresas individuales decidir si y cómo regulan la IA.
Por qué se necesita una regulación internacional de IA ahora
Crear una Agencia Internacional de Inteligencia Artificial (IAIA) para la regulación de la IA y para guiar la seguridad de la IA y el desarrollo beneficioso es claramente una cuestión de urgencia, reflejada en las observaciones proféticas de Elon Musk y Warren Buffet de que la gravedad y la magnitud de los riesgos asociados con la IA son más peligrosos que los asociados a las armas nucleares.
La IAIA sería responsable de la regulación internacional de la IA y de la verificación independiente y objetiva de la IA nacional para garantizar el cumplimiento de las obligaciones nacionales e internacionales. Esta verificación proporcionaría garantías de que la IA se está desarrollando y que es utilizada únicamente con fines seguros y pacíficos, al tiempo que identificaría desarrollos y aplicaciones de IA realmente o posiblemente peligrosos.
Las salvaguardias del OIEA como modelo para la IAIA
La experiencia del Organismo Internacional de Energía Atómica (OIEA) con respecto a las salvaguardias del OIEA es especialmente pertinente. Las razones y el papel de la reglamentación de la IAIA corresponden esencialmente a aquellas en las que se basó el sistema de salvaguardias internacionales del OIEA.
El OIEA se estableció para promover los usos pacíficos de la energía nuclear y para verificar, mediante las salvaguardias del OIEA, que las actividades nucleares no se utilizan con fines no pacíficos, como el desarrollo de capacidades en materia de armas nucleares. Del mismo modo, la IAIA también tendría la doble tarea de promover usos seguros y pacíficos de la IA al tiempo que verifica y controla que la IA no se está utilizando con fines peligrosos.
Obligaciones y beneficios de la IAIA
- Los Estados participantes serían responsables de las declaraciones de todas las actividades de investigación y desarrollo de IA, aplicaciones de IA y otras actividades de IA de entidades relevantes, todas las cuales deberían adherirse a los compromisos y obligaciones legales y de otro tipo de los Estados para el uso pacífico y beneficioso de la IA.
- Los Estados participantes acordarían establecer y capacitar a un grupo de inspectores internacionales cualificados facultados para inspeccionar y verificar las declaraciones de actividades de IA y descubrir actividades de IA no declaradas (similar a lo que hacen los inspectores de salvaguardias del OIEA con respecto a los materiales y actividades nucleares).
- La regulación de la IAIA proporcionaría garantías creíbles de que no se persiguen objetivos peligrosos o ilícitos de IA.
- La regulación del OIEA puede servir como una alerta temprana en caso de que se sospeche o se utilice con fines antisociales o criminales.
- Al acordar cumplir con las regulaciones internacionales y aceptar la verificación internacional de sus actividades de IA, los Estados tendrían acceso a la tecnología de IA y la cooperación técnica para desarrollar sus sistemas de IA con fines seguros y pacíficos.
- Las violaciones graves de las normas de la IAIA podrían ser llevadas al Consejo de Seguridad de las Naciones Unidas (CSNU), como es el caso de las violaciones graves de las salvaguardias del OIEA.
Implementación de IAIA: Una hoja de ruta
- Los Estados participantes acuerdan establecer IAIA encargada, a., de la inspección/verificación de los sistemas nacionales de IA y su cumplimiento con las normas y reglamentos internacionales pertinentes.
- Los Estados participantes proporcionan a la IAIA declaraciones de sus actividades nacionales de IA.
- La IAIA verifica de forma independiente la integridad y exactitud de las declaraciones nacionales de IA utilizando medios técnicos y de otro tipo pertinentes para garantizar la investigación y el desarrollo de IA y otras actividades de IA seguras y pacíficas en los estados participantes.
- Las inspecciones y verificaciones deben llevarse a cabo a lo largo de las diversas etapas del desarrollo y de la aplicación de la IA.
- IAIA tendría como objetivo de descubrir e investigar posibles actividades de IA no declaradas / sospechosas
- La información sobre las inspecciones de IA se proporcionaría a una base de datos internacional de IA
La cooperación internacional es esencial para crear una IAIA
La tarea principal ahora es si y cómo establecer IAIA. Es poco probable que las regulaciones de IA de la UE, EE. UU., China y otras regiones sean compatibles, consistentes o suficientes. No hay regulaciones internacionales que se estén discutiendo o desarrollando seriamente.
La cooperación internacional fue esencial para crear las salvaguardias del OIEA y del OIEA internacional, y será esencial para establecer una agencia internacional para la regulación de la IA y para acordar cómo funcionaría.
Un estado tendría que aceptar renunciar a una pequeña cantidad de soberanía en relación con la regulación de la IAIA, como lo hace para la implementación de las salvaguardias del OIEA. Esto permitiría la verificación de la parte de la IAIA de los sistemas y aplicaciones nacionales de IA, así como la confirmación de que un Estado está cumpliendo con sus compromisos nacionales e internacionales de IA.
La creación de una agencia internacional para la regulación de la IA, IAIA, requerirá voluntad política y lo mejor de la diplomacia internacional. La cooperación internacional será necesaria para lograr una regulación internacional para la seguridad, confiabilidad y transparencia de la IA, al tiempo que garantiza y apoya las actividades y aplicaciones pacíficas y productivas de la IA presente y futura.
