León XIV advierte sobre impacto moral de IA en encíclica

La inteligencia artificial ha trascendido el ámbito meramente tecnológico para convertirse en un profundo debate político, económico y moral. El Pontífice lanza una advertencia central sobre la naturaleza humana frente a la máquina, señalando que la tecnología no puede replicar la esencia del ser. De hecho, el líder vaticano afirmó: «Ningún sistema de cálculo, por sofisticado que sea, genera un corazón que se entrega, ni una conciencia capaz de discernir el bien».

El texto papal no rechaza la innovación, pero sí alerta sobre la tentación de atribuir capacidades humanas a los sistemas artificiales. León XIV advierte que esta «imitación artificial» puede ser peligrosa, pues puede inducir a engaño y dar la falsa impresión de estar en una relación genuina. Además, el Papa enfatiza que los algoritmos no son moralmente neutros, ya que pueden reproducir sesgos o posiciones ideológicas de quienes los diseñan, lo cual desvirtúa la supuesta objetividad de estos sistemas.

Regulación y límites de la autonomía humana

La preocupación del Pontífice alcanza las decisiones automatizadas que afectan la vida de las personas. León XIV advierte que confiar el poder de seleccionar quién es digno y quién no a un algoritmo supone encomendarle la tarea de redefinir los límites de las posibilidades humanas. Por ello, el texto sitúa el debate sobre la IA en el terreno de la justicia social y la responsabilidad institucional.

Para el Pontífice, la respuesta no es detener el progreso, sino exigir «prudencia, controles rigurosos» y una ralentización en la adopción de la IA cuando estén en juego derechos o libertades. El Pontífice propone que no basta con invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente y educación de los usuarios. Así mismo, el documento reclama responsabilidades claras en toda la cadena, desde los diseñadores hasta los usuarios finales.

En un plano más amplio, la encíclica aborda el riesgo de la concentración de poder, advirtiendo que pequeños grupos muy influyentes pueden orientar informaciones y condicionar procesos democráticos. En el ámbito laboral, el Papa expresa preocupación por la posible reducción y rápida de los puestos de trabajo, lo que exige la implementación de normas de protección y recualificación para los trabajadores.

Finalmente, la encíclica también cuestiona el transhumanismo y el posthumanismo. León XIV alerta que, en nombre del progreso, podría justificarse la idea de «sacrificios necesarios» y cargar sobre los más vulnerables el precio de una supuesta optimización de la especie.