CIUDAD DEL VATICANO.- El papa León llamó a establecer límites claros en el uso de la inteligencia artificial y advirtió sobre los riesgos de entregar a sistemas automatizados responsabilidades que requieren discernimiento, sensibilidad y rendición de cuentas por parte de los seres humanos.
Durante una intervención en el Vaticano, el pontífice centró su reflexión en la creciente presencia de la tecnología en la vida cotidiana. Aunque valoró las oportunidades creadas por las redes sociales, las herramientas digitales y los modelos de inteligencia artificial, sostuvo que su expansión no debe conducir a sustituir el criterio de las personas en asuntos esenciales.
El planteamiento parte de una preocupación concreta: algunas aplicaciones tecnológicas ya no se limitan a procesar información o agilizar tareas, sino que intervienen en procesos de selección, evaluación y recomendación que pueden determinar el acceso a servicios, recursos u oportunidades. Cuando esas decisiones afectan de manera directa la existencia de una persona, señaló, el juicio humano no puede quedar relegado.
Beneficios acompañados de nuevos desafíos
León reconoció que los avances tecnológicos han contribuido a derribar obstáculos geográficos y a facilitar la comunicación entre individuos y comunidades. Las plataformas digitales permiten compartir conocimientos con rapidez, mantener vínculos a larga distancia y acercar herramientas antes reservadas a grupos con mayores recursos.
La inteligencia artificial también ofrece posibilidades para organizar grandes volúmenes de datos, apoyar investigaciones y automatizar labores repetitivas. Sus aplicaciones se han extendido a áreas como la educación, la salud, el empleo, las finanzas, los medios de comunicación y la administración pública, lo que aumenta su influencia sobre actividades fundamentales de la sociedad.
Sin embargo, el Papa sostuvo que esas ventajas deben examinarse junto con sus posibles consecuencias. Una dependencia excesiva de los sistemas digitales puede debilitar la capacidad de analizar, cuestionar y decidir de forma autónoma. También puede generar la percepción de que una respuesta producida por una máquina es necesariamente neutral o correcta, aunque dependa de datos, reglas y prioridades definidos previamente por personas e instituciones.
La innovación puede servir al bienestar colectivo, pero no debe ocupar el lugar de la responsabilidad moral ni del discernimiento de las personas.
Su advertencia apunta, en particular, a la diferencia entre utilizar la inteligencia artificial como instrumento de apoyo y concederle la autoridad práctica para resolver asuntos delicados. En el primer escenario, la tecnología suministra información que una persona evalúa; en el segundo, el resultado automatizado puede imponerse sin que exista una revisión suficiente o una explicación comprensible.
Decisiones que requieren responsabilidad
El mensaje pronunciado en el Vaticano reabre el debate internacional sobre cuáles funciones deben permanecer bajo control humano. La discusión adquiere especial relevancia cuando están involucrados derechos, seguridad, dignidad, atención médica, oportunidades laborales o cualquier circunstancia capaz de alterar de manera significativa el futuro de una persona.
Los algoritmos no operan al margen de la sociedad. Aprenden a partir de información recopilada en contextos concretos y pueden reproducir errores, desigualdades o sesgos presentes en esos datos. Además, determinados sistemas funcionan con tal complejidad que resulta difícil identificar por qué emitieron una recomendación específica, una situación que complica la posibilidad de reclamar o corregir una decisión perjudicial.
En ese contexto, mantener la supervisión humana implica algo más que colocar a una persona al final de un procedimiento. Requiere que quien revise el resultado tenga capacidad real para comprenderlo, cuestionarlo y modificarlo. También supone definir quién responde cuando una herramienta falla o provoca consecuencias negativas.
El pontífice planteó así una reflexión que trasciende el ámbito técnico. La discusión no se reduce a la eficiencia de una plataforma, sino que incluye preguntas éticas sobre el poder, la responsabilidad y el valor que se concede a cada ser humano. Delegar una decisión no elimina sus efectos ni libera a las instituciones de responder por ellos.
Una tecnología al servicio de las personas
La posición de León no constituye un rechazo general a la innovación. Su intervención reconoció que la tecnología puede acercar comunidades y abrir espacios de desarrollo, al tiempo que insistió en la necesidad de orientar esos recursos hacia el bien común. El reto consiste en aprovechar sus capacidades sin convertirlas en sustitutos de la conciencia y la responsabilidad.
Ese enfoque demanda reglas que garanticen transparencia y mecanismos de protección para quienes resulten afectados por procesos automatizados. También requiere formación digital, de modo que los usuarios puedan reconocer las limitaciones de las herramientas y no asumir sus respuestas como verdades incuestionables.
La expansión acelerada de la inteligencia artificial ha llevado a gobiernos, empresas, universidades y organizaciones sociales a discutir principios para su desarrollo. Entre los temas recurrentes se encuentran la protección de los datos personales, la prevención de la discriminación, la explicación de los resultados y la obligación de conservar intervención humana en decisiones de alto impacto.
Las redes sociales forman parte del mismo escenario señalado por el Papa. Aunque permiten reducir distancias y ampliar el acceso a información, también pueden favorecer una relación de dependencia, condicionar la manera en que las personas reciben contenidos y limitar la exposición a perspectivas diferentes. La tecnología, en consecuencia, no solo facilita acciones, sino que puede influir en la percepción y en el comportamiento.
La alerta del pontífice coloca la dignidad humana como referencia para evaluar cada innovación. Desde esa perspectiva, la pregunta principal no es únicamente qué puede hacer una máquina, sino qué conviene permitirle hacer, bajo qué condiciones y con cuáles salvaguardas. El hecho de que una tarea pueda automatizarse no significa, por sí solo, que deba quedar completamente fuera del control de las personas.
Con su intervención, León invitó a evitar tanto el rechazo automático de las nuevas herramientas como la confianza irrestricta en ellas. Su llamado propone una adopción prudente, acompañada de evaluación ética, supervisión efectiva y responsabilidades definidas. En un momento de rápida transformación digital, el Vaticano insiste en que las decisiones que afectan la vida humana deben conservar un rostro, una conciencia y una autoridad capaces de responder por sus consecuencias.
