También advierte de «usos evidentemente antihumanos, como la manipulación de la información o la violación de la privacidad»
‘Magnifica Humanitas‘, es la primera encíclica del papa León XIV, matemático y canonista. En ella advierte que la inteligencia artificial «no es neutral» y reclama «un orden social justo en la era digital«, «marcos jurídicos adecuados», «reglas justas» y «mecanismos de protección eficaces».
Este primer gran documento de su pontificado, publicado este lunes, sigue los pasos de la Rerum Novarum de León XIII para actualizar la Doctrina Social de la Iglesia ante uno de los principales retos de la época contemporánea: la inteligencia artificial. Son 110 páginas en las que alerta del peligro de que esta tecnológica «se concentren en manos de unos pocos» aumentando «la brecha entre incluidos y excluidos, entre quienes pueden participar en la revolución digital y quienes permanecen al margen«.
«Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades«, advierte.
Por ello avisa que tanto esta como otras «innovaciones tecnológicas no son neutrales; pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión», y tiene que estar al servicio de las personas porque tiene que estar al servicio de las personas porque «la humanidad no debe ser sustituida ni superada».
En cuanto a la IA señala que se usa de forma «antihumana» como por ejemplo, manipulando información o «la violación de la privacidad», tratándose de un engaño más sutil cuando los sistemas, «presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado«.
Aunque apunta que la tecnología que representa la IA, no se trata de «una fuerza antagónica respecto a la persona», ni «un mal en sí», precisamente porque es «un hecho profundamente humano, vinculado a la autonomía y libertad» del ser humano. Pero, añade que el Santo Padre, «no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza«.
Los 5 pilares del manifiesto ético
El documento desglosa cinco peticiones urgentes para regular el avance de los algoritmos:
- Control de gigantes tecnológicos: Intervención gubernamental firme sobre las corporaciones que monopolizan la IA.
- Escudo laboral: Políticas de protección y reciclaje profesional para los sectores en riesgo.
- Educación crítica: Reformar los planes de estudio para enseñar a reflexionar sobre el uso de la tecnología.
- Protección de la infancia: Salvaguardas urgentes contra la proliferación de contenidos violentos, hipersexualizados o deepfakes.
- Veto humano en la guerra: Garantizar que las decisiones sobre el uso de armas queden siempre bajo responsabilidad humana, prohibiendo la autonomía de las máquinas.
El peligro de la inactividad
«Una sociedad que garantiza empleo solo a una pequeña fracción de la población […] corre el riesgo de exponer a muchos a la inactividad forzada y la ausencia de estímulos diarios, lo que resulta en un empobrecimiento humano y cultural».
El líder religioso alerta sobre el riesgo identitario que supondría una automatización descontrolada, dibujando un escenario de crisis social si el empleo se convierte en un privilegio.
«Pretende dominar el cielo»
Realmente, el debate se centra en la posibilidad de «un poder que pretende dominar el cielo y un pueblo» que «se pone a trabajar unido para levantar de nuevo las murallas de la convivencia fraterna». Por ello hay que evitar «la idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias, la pretensión de un lenguaje único, incluido el digital, capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos».
El pontífice aboga por «un orden social justo en la era digital» que garantice «acceso igualitario a las oportunidades, proteja a los más pequeños y a los más frágiles, se oponga al odio y a la desinformación, y someta a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea sólo el beneficio sino la dignidad de cada persona y el bien de los pueblos«.
Reclama «responsabilidades»
«La imitación artificial de una comunicación humana positiva —palabras de consejo, de empatía, de amistad, de amor— puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal«, señala el pontífice.
En la misma línea reclama «responsabilidades» para sus creadores, además de «marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea», porque si no «el cambio será gobernado sólo por lógicas tecnocráticas». Asimismo advierte de que «tener un teléfono móvil personal demasiado pronto y utilizarlo sin el control de los adultos puede acentuar la fragilidad y favorecer las adicciones en los jóvenes«.
Con esta enciclopedia, la prioridad del pontífice es proteger la la «dignidad de la persona y de su unicidad» ante el riesgo de que el ser humano se reduzca a «un recurso que se usa y se explota» o a lo que «produce»: «El ser humano no florece a pesar del límite, sino a menudo a través del límite«.
Fuente: Antena 3
Acerca del autor
