El Papa cita a Gandalf de El señor de los anillos mientras emite una advertencia sobre la IA
El Papa Leo emitió una advertencia sobre la IA y pidió una regulación, citando a Gandalf de El Señor de los Anillos en el programa.
Como parte de un manifiesto sobre la seguridad futura de la humanidad llamado Magnifica Humanitas (Magnífica Humanidad), el Papa instó a los gobiernos a frenar el desarrollo de tecnologías productivas de inteligencia artificial y desarrollar regulaciones que ayuden a prevenir la difusión de información errónea. También criticó el uso de la IA en la guerra, diciendo que reducir el control humano de las armas hace aún más difícil considerar una guerra «justa» y advirtió sobre el inicio de una carrera armamentista de la IA. Leo, que calificó la IA como el mayor desafío al que se enfrenta la humanidad hoy en día, afirmó en el documento que es «inaceptable» confiar decisiones irreversibles y peligrosas a los sistemas de IA.
En Magnifica Humanitas, bajo la sección titulada ‘Todos podemos hacer nuestra parte’, el Papa León pide a Gandalf que enfatice su punto:
El escritor católico del siglo XX J.R. Tolkien, en palabras del personaje principal de uno de sus libros, explicó nuestra responsabilidad de esta manera: «No es nuestra parte controlar todas las olas del mundo, sino hacer lo que está en nosotros para beneficiar esos años en los que estamos asentados, para erradicar el mal de los campos que conocemos, para que los que vivirán después de eso sean limpios».
Esa cita es de El Señor de los Anillos. El Retorno del Rey, en el que un famoso hechicero se dirige a una reunión de los co-reyes a las puertas de Minas Tirith. En este punto Denethor y Théoden están muertos y Faramir se está recuperando de sus heridas en las Casas de Curación. Entre los que escuchan está Aragorn. Aquí está la cita completa:
«Hay otro mal que puede venir; pues el propio Sauron es un esclavo o un mensajero. Sin embargo, no es nuestra parte controlar todas las olas del mundo, sino hacer nuestra parte para aprovechar esos años en los que somos designados, para erradicar el mal de los campos que conocemos, para que los que vivirán después de eso tengan una tierra limpia para cultivar».
La pregunta es: ¿escucharán al Papa León los líderes tecnológicos del mundo, que están tan preocupados por la IA que ha llegado a dominar las economías occidentales? Entre los asistentes al evento del Vaticano que lanzó el documento el lunes se encontraba Chris Olah, fundador de Anthropic, que produce herramientas Claude AI. Entonces sabemos que al menos uno de los grandes actores escuchó lo que el Papa tenía que decir.
«No podemos conformarnos con simplemente pedir la transformación de las máquinas – la llamada ‘alineación’ de la IA con los valores humanos – sin tener el coraje de insistir en una condición adicional: la oportunidad de discutir libremente los marcos morales implicados y someterlos a valores compartidos de justicia social», continúa Leo en el texto.
«Aparte de eso, quienes controlen la IA establecerán su propia visión moral, que será la infraestructura invisible de estos sistemas. La IA moral no es suficiente si ese comportamiento está determinado por unos pocos. Lo que se necesita es una fuerte participación política que pueda ralentizar las cosas cuando todo se mueve a gran velocidad, y proteger las oportunidades para que las comunidades puedan participar y hacer preguntas».
Este mes, Peter Jackson, el legendario director de la muy querida trilogía de películas El Señor de los Anillos y El Hobbit, descartó las preocupaciones sobre el impacto de la IA en la realización cinematográfica, diciendo: «No me gusta en absoluto. Quiero decir, para mí, es sólo un efecto especial». Su trabajo en El Señor de los Anillos continúa con la película del próximo año, La caza de Gollum.
Foto de Alberto PIZZOLI / AFP.
Wesley es director de noticias en IGN. Encuéntrelo en Twitter en @wyp100. Puede comunicarse con Wesley en wesley_yinpoole@ign.com o de forma privada en wyp100@proton.me.
