En vista de la disponibilidad y el impacto mundial de las redes sociales, el malware y la desinformación, es esencial tender la red más amplia posible para la regulación de la IA. Ningún país u organización debe quedarse atrás. Actualmente, se están llevando a cabo esfuerzos regionales y multilaterales en una carrera por regular la IA. Utilizar las salvaguardias del OIEA como modelo para la regulación de la IA garantizará la seguridad, la transparencia y el desarrollo beneficioso de la IA.
Frances Mautner Markhof
1 de diciembre de 2023
Arabic version | Chinese version | English version | French version | German version
Se necesitan regulaciones internacionales acordadas para evitar estándares conflictivos o competitivos y garantizar la seguridad, fiabilidad y transparencia de la inteligencia artificial basada en modelos de lenguaje grande o de aprendizaje profundo como ChatGPT y GPT-4.1. El desarrollo de reglas y regulaciones internacionales debería involucrar a todos los países y organizaciones relevantes.
Esfuerzos de regulación de la IA hasta ahora
Francia, Alemania e Italia llegaron a un acuerdo el 18 de noviembre de 2023 sobre la futura regulación de la inteligencia artificial, con una autoridad de la UE para supervisar el cumplimiento.
El Presidente de la Federación Rusa ha propuesto “…principios comunes de control de la inteligencia artificial similares a las reglas de no proliferación nuclear” (TASS, 24 de noviembre de 2023).
La “Cumbre de Seguridad de la IA 2023”, celebrada el 1 y 2 de noviembre de 2023 en Bletchley Park, Reino Unido, acordó promover una IA segura y confiable, así como la regulación de la IA y el control de los riesgos de la IA. En la cumbre, la UE, EE. UU., China y otros países acordaron “gestionar colectivamente el riesgo de la inteligencia artificial”. Las Naciones Unidas también dieron su aprobación a la Declaración de Bletchley Park. La reunión de seguimiento de la Cumbre Intergubernamental de Seguridad de la IA del Reino Unido se llevará a cabo en Francia en 2024.
El 26 de octubre de 2023, el Secretario General de la ONU nombró un “Cuerpo Asesor de Alto Nivel sobre Inteligencia Artificial” compuesto por 39 miembros de países desarrollados y en desarrollo. Este Cuerpo Asesor abordará los riesgos, oportunidades y la gobernanza internacional de la IA.
El Presidente de los EE. UU. emitió el 30 de octubre de 2023 una Orden Ejecutiva sobre la regulación de la IA, entre otras cosas, para garantizar la seguridad de las aplicaciones de IA, proteger a los consumidores y promover la innovación y la competencia.
El 7 de septiembre de 2023, el G7 (EE. UU., Reino Unido, Francia, Alemania, Italia, Japón, Canadá) se comprometió a desarrollar, para sistemas avanzados de IA, principios rectores y un código de conducta internacional para organizaciones. Los Principios Rectores Internacionales en Borrador para Organizaciones que Desarrollan Sistemas Avanzados de IA enfatizan, entre otras cosas, la necesidad de seguridad, fiabilidad, transparencia, gestión de riesgos y estándares internacionales. La UE está revisando ahora estos Principios Rectores.
El Parlamento de la UE aprobó el 14 de junio de 2023 la primera ley del mundo que regula la IA, la Ley de IA de la UE. Si es ratificada por los estados miembros de la UE, la Ley de IA se convertirá en ley en 2025.
El 13 de julio de 2023, el regulador de internet chino publicó las reglas finalizadas sobre IA generativa: “Medidas Provisionales para la Gestión de Servicios de Inteligencia Artificial Generativa“. La regulación incorpora muchos principios que los críticos de la IA están debatiendo en Occidente: infracción de propiedad intelectual por modelos de IA; infracción de privacidad por IA; no discriminación por algoritmos de IA; y transparencia de las empresas de IA sobre datos y entrenamiento.
Así, existe una conciencia clara y creciente a los niveles políticos más altos sobre la importancia y urgencia de la regulación de la IA, y que la experiencia en el control de la proliferación nuclear sería relevante.
Se Necesita Regulación Internacional de la IA Ahora
La OIEA (Organismo Internacional de Energía Atómica) fue establecida para promover los usos pacíficos de la energía nuclear y crear un sistema efectivo, aceptado internacionalmente, que prohíba y controle las actividades no pacíficas. Por estas mismas razones, se debería crear una Agencia Internacional de Inteligencia Artificial (IAIA) para la regulación de la IA y para garantizar la seguridad, transparencia y desarrollo beneficioso de la IA. Esto se ha convertido en una cuestión de urgencia, en particular para lograr un sistema internacional unificado en lugar de que países individuales o grupos de países desarrollen sus propios sistemas de regulación de la IA, que podrían ser diferentes y posiblemente conflictivos. Elon Musk y Warren Buffet han enfatizado fuertemente que la seriedad y magnitud de los riesgos asociados con la IA son más peligrosos que los asociados con las armas nucleares.
Una IAIA (https://www.iglobenews.org/iaea-safeguards-a-model-for-international-ai-regulation/) sería responsable de la regulación internacional de la IA y de la verificación independiente y objetiva de los sistemas y aplicaciones de IA nacionales para garantizar el cumplimiento de las obligaciones nacionales e internacionales. Este proceso de verificación proporcionaría garantías de que la IA se está desarrollando y utilizando únicamente para fines seguros y pacíficos, al tiempo que identificaría desarrollos y aplicaciones de IA peligrosos y prohibidos reales o posibles.
La experiencia del OIEA es singularmente relevante. Las razones y el papel de la regulación de la IAIA corresponden esencialmente a aquellos por los cuales se creó el sistema internacional de salvaguardias del OIEA. Las Salvaguardias del OIEA implican la verificación independiente de los sistemas de salvaguardias nacionales para proporcionar garantías creíbles de que el material nuclear, los artículos y las instalaciones se utilizan únicamente para fines pacíficos.
De manera similar, la IAIA también tendría la doble tarea de promover los usos seguros y pacíficos de la IA, al tiempo que verifica y controla que la IA no se utilice para fines ilícitos o desestabilizadores. Las obligaciones y beneficios para los estados participantes de la IAIA incluirían:
- Cumplir con las regulaciones internacionales de IA y aceptar la verificación internacional de sus actividades de IA.
- Declaraciones de toda la I+D en IA, aplicaciones de IA y otras actividades de IA de entidades relevantes, todas las cuales deben adherirse a los compromisos y obligaciones legales y de otro tipo del estado para el uso pacífico y beneficioso de la IA.
- Verificar la integridad y corrección de las declaraciones nacionales de IA.
- Calificación de inspectores internacionales facultados para inspeccionar y verificar las declaraciones de actividades de IA y descubrir actividades de IA no declaradas (similar a lo que hacen los inspectores de Salvaguardias del OIEA respecto a materiales y actividades nucleares).
- Acceso a tecnología de IA y cooperación técnica para desarrollar sus sistemas de IA para fines pacíficos.
- Un sistema de alerta temprana en caso de que se sospeche que la IA se esté utilizando para fines ilegales, antisociales o criminales.
- Identificación y prevención del desarrollo, aplicaciones y competencia no controlados para capturar/controlar el «mercado de IA».
- Proporcionar información sobre inspecciones de IA y otros datos relevantes acordados a una base de datos internacional de IA.
- Las violaciones graves de las regulaciones de la IAIA podrían ser llevadas al Consejo de Seguridad de la ONU (CSNU), como es el caso de las violaciones graves de las Salvaguardias del OIEA.
IAIA: Un enfoque inclusivo frente a uno exclusivo de la regulación de la IA
Una IAIA se crearía a través de un proceso internacional para promover y asegurar el uso pacífico y productivo de la IA generativa. Una IAIA que funcione eficazmente requiere la cooperación internacional que involucre a todos los estados y sus organizaciones/expertos con actividades e intereses en IA. Solo un enfoque internacional puede tener éxito en abordar las dimensiones globales, los desafíos y el rápido desarrollo de la tecnología de IA. Por lo tanto, no solo el G7 y la UE, sino también otros países clave, incluidos, entre otros, Brasil, China, India, República de Corea, Rusia y otros, deben estar involucrados desde el principio.
En vista de la disponibilidad global y el impacto de las redes sociales, el malware y la desinformación, es esencial lanzar la red más amplia posible para la regulación de la IA. Ningún país u organización debe quedar fuera.
Se espera que el recién formado Cuerpo Asesor de Alto Nivel sobre IA de la ONU inicie, lo antes posible, un proceso inclusivo para la regulación internacional de la IA, como una IAIA.
