En marzo, el Primer Ministro de Rumanía, Nicolae Ciucă, presentó al mundo al primer asesor gubernamental de inteligencia artificial. Diseñado para captar y presentar las opiniones del público rumano con el fin de ayudar a los funcionarios gubernamentales a tomar decisiones mejores, muchas preguntas siguen sin respuesta acerca de este «asesor honorario». ¿Será preciso, seguro, imparcial e inmune a interferencias externas? ¿Y reemplazará en última instancia este asesor no electo al elemento humano del gobierno?
David Deegan
20 de abril de 2023
Chinese version | English version
En los primeros años de este siglo, los creadores de software de reconocimiento de voz se enfrentaban a las complejas sutilezas del lenguaje humano. El «problema de Paris Hilton» era un obstáculo inicial: cómo distinguiría una computadora si una persona estaba hablando sobre un famoso hotel en la capital francesa o sobre una heredera famosa. Lynne Truss escribió un exitoso libro sobre la importancia de la puntuación llamado «Eats, Shoots and Leaves» basado en el chiste sobre cómo una coma insertada después de la palabra «Eats» transforma a un panda gigante de un vegetariano pacífico en un asesino.
La prevalencia de software que interpreta tanto el lenguaje escrito como el hablado sugeriría que los desafíos presentados por estas sutilezas han sido superados. Pero, ¿se puede confiar en la precisión de este tipo de inteligencia artificial?
En marzo de 2023, se lanzó un nuevo tipo de software o «bot» que recopila información sobre las opiniones y perspectivas del público rumano y las agrupa en categorías, temas y tendencias que luego pueden compartirse con el gobierno rumano. Llamado «Ion» (la palabra rumana para «Juan»), el bot fue presentado al público rumano en una transmisión televisiva por el Primer Ministro, Nicolae Ciucă.
«Ion, a través de la inteligencia artificial, hará lo que ningún humano puede: escuchar a todos los rumanos y representarlos ante el gobierno de Rumanía», dijo Ciucă. Cuando Ciucă le pidió que se presentara, Ion respondió: «Hola. Me has dado vida. Soy Ion. Ahora, mi función es representarte. Como un espejo». Mientras Ciucă conversaba con Ion, las respuestas del bot aparecían en una pantalla tipo espejo de cuerpo entero.
El objetivo declarado del uso de Ion es representar las opiniones de los ciudadanos para que el gobierno rumano pueda tomar decisiones más informadas y crear políticas que estén más en sintonía con las preocupaciones cotidianas de los votantes. Sin embargo, los funcionarios también esperan que Ion pueda proponer sus propias ideas originales en el futuro.
Durante la transmisión, Ion le preguntó a Ciucă: «¿Qué debo saber sobre Rumanía?» Sebastian Burduja, ministro de investigación de Rumanía, describió a Ion como estando en su «fase de aprendizaje». Las personas pueden enviar sus opiniones e ideas a Ion a través de un sitio web complementario, pero Ion también escaneará las redes sociales como Facebook y Twitter para recopilar y sintetizar las opiniones del público rumano.
Los asistentes impulsados por inteligencia artificial no son nuevos. Ya están presentes en muchos sitios web corporativos, y los gobiernos de Estonia, India, Marruecos y Dubai ya los utilizan para ayudar a sus ciudadanos a navegar por los servicios públicos. Pero el Primer Ministro Ciucă describió a Ion como «el primer asesor gubernamental que utiliza inteligencia artificial».
Si bien la capacidad de filtrar y recopilar millones de datos es innegablemente una capacidad de una máquina en lugar de un ser humano, existen varias preocupaciones.
GIGO es un concepto informático que significa «basura entra, basura sale», describiendo cómo la calidad de la entrada determina la calidad de la salida. En otras palabras, en cualquier sistema de procesamiento, la calidad de los datos resultantes no puede ser mejor que la calidad de los datos que se ingresaron.
Existe la preocupación de que los datos alimentados a Ion puedan estar sesgados debido a la entrada de un número no representativo de usuarios de redes sociales. Existen preocupaciones de que Ion podría ser hackeado y, por lo tanto, recibir información que lleve al gobierno a tomar decisiones que no representen los deseos de los rumanos. También existe preocupación sobre la seguridad y accesibilidad de la información dentro de Ion, especialmente porque es probable que eventualmente contenga una gran cantidad de datos personales sobre los ciudadanos rumanos.
Es posible que los algoritmos dentro de Ion hayan sido diseñados inadvertidamente con sesgos inherentes. También es probable que los algoritmos de Ion no sean suficientemente sofisticados para tener en cuenta contextos políticos y sociales más amplios que provienen de fuera del país pero que finalmente impactan a Rumanía. La posible existencia de tales sesgos y la dificultad para hacer que el funcionamiento intrincado de los algoritmos sea transparente para el público en general significa que incluso si Ion ha sido diseñado perfectamente, las decisiones resultantes tomadas por el gobierno pueden ser tratadas con desconfianza y escepticismo.
También está la importante cuestión de la responsabilidad. No importa cuán sofisticado y preciso pueda ser Ion, ¿seguirán los funcionarios gubernamentales siendo responsables de las decisiones tomadas? ¿Seguirán cumpliendo con el contrato social que los votantes esperaban que honraran cuando los pusieron en el poder?
¿Y cómo podría afectar la descripción de Ciucă de Ion como «asesor gubernamental» a la confianza del público en sus funcionarios electos y en las decisiones que toman?
Una pregunta interesante es cómo se ven entre sí los diferentes programas de inteligencia artificial. Por lo tanto, se le preguntó a ChatGPT, un software de inteligencia artificial lanzado en noviembre de 2022, qué pensaba sobre Ion. Aquí está la respuesta de ChatGPT:
«Como modelo de lenguaje de IA, no tengo opiniones personales ni sentimientos sobre eventos o cosas. Sin embargo, en lo que respecta a la aplicación rumana que informa a los políticos, parece ser una iniciativa prometedora. Cualquier herramienta o plataforma que facilite la transparencia y la comunicación entre los ciudadanos y sus representantes electos puede potencialmente conducir a una mejor gobernabilidad y responsabilidad. Aún está por verse cuán efectiva y ampliamente adoptada será la aplicación, pero su impacto potencial definitivamente vale la pena explorarlo».
ChatGPT parece estar en la valla y esperará hasta que se le proporcionen más datos antes de tener una opinión más fuerte. Ion también está en su «fase de aprendizaje» y llevará tiempo abordar las preocupaciones. Esperemos que ni ChatGPT ni Ion sean mal utilizados a través de GIGO y otras acciones inútiles o peligrosas.
