By Dos de las voces con mayor peso moral e institucional en el mundo han encendido las alarmas al mismo tiempo. El papa León XIV y el secretario general de la ONU, António Guterres, han advertido con firmeza sobre los peligros de delegar decisiones humanas a la inteligencia artificial, en un momento en que el debate sobre su regulación ya no puede postergarse. Sus palabras no llegaron desde foros tecnológicos, sino desde los espacios donde se discute el futuro de la humanidad.
Lo que el papa León XIV advierte sobre las decisiones humanas y la IA
Durante una catequesis celebrada en la plaza de San Pedro, el papa León XIV fue directo: delegar decisiones a algoritmos amenaza la conciencia humana. El pontífice no habló en abstracto. Subrayó la importancia de preservar relaciones auténticas en un mundo que se vuelve progresivamente virtual, donde la mediación tecnológica puede erosionar los vínculos que definen lo humano.
El papa también hizo referencia a su encíclica Magnifica humanitas, un documento que aborda de forma directa el impacto de la inteligencia artificial en la humanidad. Con esa encíclica, León XIV convierte a la Iglesia Católica en un actor activo del debate global sobre IA, no como observador, sino como voz que interpela a los poderes políticos y tecnológicos sobre sus responsabilidades éticas.
Guterres y el llamado a una estrategia global que no espere
En una rueda de prensa, António Guterres fue igualmente contundente. Los gobiernos, dijo, deben asumir responsabilidades concretas y construir una estrategia coordinada a escala global para enfrentar los riesgos de la inteligencia artificial, una tecnología que no reconoce fronteras ni espera a que los marcos legales la alcancen.
Guterres fue más allá de la retórica: propuso que la IA se convierta en un tema central de la próxima Asamblea General de la ONU, y advirtió que las divisiones geopolíticas no pueden convertirse en una excusa para dejar sin salvaguardias el desarrollo tecnológico. La seguridad, argumentó, no puede ser rehén de la competencia entre potencias.
Su postura coincide con la de varios líderes del sector tecnológico que, desde dentro de la industria, también han pedido mayor regulación. Entre ellos destacan:
- Dario Amodei, director ejecutivo de Anthropic, quien ha insistido en la necesidad de marcos regulatorios que mitiguen los riesgos del avance acelerado.
- Sam Altman, director ejecutivo de OpenAI, que ha respaldado públicamente la implementación de controles externos al desarrollo de modelos de IA.
- Mark Zuckerberg, director ejecutivo de Meta, quien defiende que cada empresa debe asumir individualmente la responsabilidad de garantizar que sus modelos sean seguros, sin necesidad de coordinar esfuerzos para desacelerar el desarrollo.
La postura de Zuckerberg marca una diferencia de enfoque relevante: mientras Guterres y otros abogan por una gobernanza colectiva, el fundador de Meta apuesta por la autorregulación corporativa. Ese contraste refleja la tensión de fondo que atraviesa todo el debate: ¿quién tiene la autoridad y la responsabilidad de poner límites a la inteligencia artificial?
Por qué este momento sacude el debate sobre la regulación de la IA
La convergencia de voces tan distintas —un papa, el máximo representante de la ONU y los CEO de las empresas más influyentes en inteligencia artificial— no es casual. Refleja que la conversación sobre los riesgos de la IA ha alcanzado una masa crítica que ya no puede ignorarse desde los gobiernos ni desde los organismos internacionales.
Durante meses, las advertencias sobre el impacto destructivo de un desarrollo sin regulación adecuada han ido acumulándose. Lo que antes era un debate técnico reservado a expertos se ha convertido en una discusión sobre valores, poder y el tipo de futuro que las sociedades están dispuestas a aceptar. La pregunta sobre quién toma las decisiones humanas fundamentales —y si esas decisiones pueden o deben delegarse a sistemas automatizados— está en el centro de ese debate.
La Organización de las Naciones Unidas tiene ahora la oportunidad de convertir ese debate en acción concreta. Si la propuesta de Guterres prospera y la IA ocupa un lugar central en la próxima Asamblea General, será la primera vez que el organismo multilateral más representativo del mundo aborde la inteligencia artificial como una prioridad de seguridad global, no como un tema secundario de agenda tecnológica. Las decisiones humanas sobre cómo gobernar la IA no pueden seguir esperando.
