Mons. Oscar Cantú, obispo de San José (California), la diócesis a la que pertenece Silicon Valley, ha advertido en una entrevista con Avvenire de que con la inteligencia artificial se juega el destino de toda la humanidad.

Preside el grupo de trabajo que la conferencia episcopal estadounidense creó el 16 de septiembre tras el llamamiento de León XIV en Magnifica humanitas. Ese mismo día, los obispos se reunieron con representantes de varias empresas tecnológicas y especialistas en IA.

Ética traducida en código

Cantú explica por qué hay que actuar ya. Según él, los creadores de las IA más potentes han reconocido en declaraciones públicas los peligros, y no solo los que amenazan la supervivencia del género humano.

Enumera también la fabricación de armas biológicas, el bloqueo de los sistemas financieros globales, las violaciones de la privacidad y los disturbios sociales que provocan los deepfakes difundidos con mala intención.

Lo llamativo es que no se queda en la denuncia y baja a lo concreto. Cita como una buena práctica la marca de agua digital que ya incorporan algunos desarrolladores para que los usuarios sepan si una imagen o un vídeo lo ha generado una IA.

Menciona también sistemas que impiden «desnudar» a una persona y protecciones para que un chatbot no empuje a nadie a hacerse daño, algo que le preocupa sobre todo con los adolescentes. Algunas empresas han adoptado estas medidas, dice, pero deben hacerlo todas, y a los legisladores les toca regularlo.

La Iglesia, insiste, no pretende imponer a la innovación una visión religiosa. Quiere proponer una antropología que custodie al ser humano, proteja a los marginados y salvaguarde el bien común. Por eso dialoga con la industria, pero sin dar su aval. 

Se reúne con cuantos más interlocutores mejor, precisamente para no atarse a ninguna empresa ni producto. El Vaticano ya abrió camino con los Minerva Dialogues, que llevan diez años en marcha.

También se aplica el cuento en casa. Varias diócesis ya se están dotando de normas para un uso ético de la IA, y el grupo de trabajo estudiará sus buenas prácticas para ofrecerlas al resto.

«No soy el zar de la IA»

En otras entrevistas de estos días, como en la que concedió a Religion News Service, ha dejado ver su forma de ver el asunto. Se presentó en esta entrevista afirmando «no soy el zar de la IA”, y explicó que el grupo que preside trabajará en tres frentes: el diálogo con los grandes laboratorios, la incidencia ante legisladores y la formación de obispos y diócesis.

Ha añadido un detalle que da vértigo. Según su entrevista, los técnicos con los que han hablado admiten que no entienden por qué las máquinas hacen ciertas cosas, y eso les ha asustado.

Otra de sus preocupaciones, cuenta, es el trabajo y las condiciones laborales de las personas de este sector. Vive en un barrio residencial de San José, donde ha visto cómo las empresas contratan a miles de personas y luego las despiden en masa. Le inquieta también la sustitución de abogados o programadores.

Preguntado por un futuro gobernado por máquinas donde los ciudadanos tienen una renta básica universal, admite que permitiría pagar el alquiler, pero se pregunta qué pasa con la dignidad humana, ya que trabajar es participar de la obra creadora de Dios.

Detrás, la encíclica de León XIV

El telón de fondo de todas estas cuestiones viene dado por Magnifica humanitas. La primera encíclica del Papa, publicada el 25 de mayo, abre planteando una elección: construir una nueva Torre de Babel o levantar la ciudad donde Dios y la humanidad habitan juntos. Advierte del riesgo de un futuro que excluye a Dios y reduce al otro a un simple medio.

Sus palabras comparan este momento con el de la revolución industrial que afrontó en su día León XIII con Rerum novarum, frente a la nueva revolución industrial que supone la inteligencia artificial. En su presentación, León XIV dijo que la inteligencia artificial «necesita ser desarmada», liberada de las lógicas de dominio, exclusión y guerra.

El texto no es un anatema contra la técnica. El Papa subrayó que no se opone a la innovación, pero avisa de que, sin salvaguardas, la IA puede profundizar la desigualdad y debilitar la libertad humana. Entre los riesgos, al igual que Mons. Cantú, señaló la precariedad laboral, la manipulación de la información, las violaciones de la privacidad y las armas autónomas.

Sin embargo, el peligro de fondo, dice, es que nos veamos a nosotros mismos y a los demás como proyectos «por optimizar o mejorar”, en una crítica al transhumanismo. Pide además, en línea con el obispo de San José, someter a las empresas del sector a una regulación más estricta y abrir la conversación a la participación de todos.

Cantú lleva ocho años en Silicon Valley y confiesa que todo lo que sabe de IA lo ha aprendido en los últimos cinco meses. Su grupo de trabajo funcionará dos años, y luego los obispos decidirán si se clausura o lo convierten en comité de la conferencia.

Fuente: RELIGIÓN EN LIBERTAD