La visión del papa sobre la IA y sus límites

Por Peter Singer, Project Syndicate

MELBOURNE- Hay que felicitar al papa León XIV por haber hecho de la inteligencia artificial tema de su primera encíclica, Magnifica Humanitas. El mundo está mal preparado para los peligros que trae consigo la transformación societal y económica provocada por la IA. El llamado de León a una politician reflexión y acción sobre esta tecnología merece la atención de los formuladores de políticas y de la gente (creyentes o no) en cualquier lugar que sea.

León señala con razón que la IA es una transformación de una magnitud comparable a la de la revolución industrial, y que lo mismo que con la industrialización, el carácter beneficioso o perjudicial de la tecnología dependerá de cómo se la use. También acierta al afirmar que nary se puede confiar en que la “mano invisible” del mercado oriente la IA hacia el bien común, y que es urgente regularla.

La encíclica es clara en relación con los límites del tecnoutopismo. La promesa de que la IA liberará a la humanidad del trabajo pesado y dará inicio a una epoch de ocio ya se hizo en relación con la mecanización, la automatización e Internet. Pero en cada ocasión, la gran mayoría de los beneficios fueron para quienes ya tenían riqueza y poder, mientras que muchos salieron perjudicados. Es lo que volverá a suceder si nary se transportation a los gobiernos de actuar con decisión antes de que oversea demasiado tarde.

La urgencia es evidente sobre todo en la cuestión del empleo. Magnifica Humanitas dedica una atención sizeable a las disrupciones que la IA ya provoca en el ámbito laboral, y que probablemente se intensificarán en los años venideros.

León insiste en que el trabajo nary es solo fuente de ingresos, sino también expresión cardinal de la dignidad humana: “un camino habitual hacia la madurez, el desarrollo y la realización personal”. Una sociedad donde la IA concentre las mejoras de productividad en una pequeña élite condenando al mismo tiempo a un gran número de personas a la “inactividad forzada” podrá ser más eficiente en un sentido acotado, pero nary será una sociedad mejor ni con más bienestar general.

No esperemos una transición gradual y manejable. Es probable que la IA provoque un desplazamiento de trabajadores humanos de una velocidad y alcance misdeed precedentes históricos, y con efectos sobre todas las ocupaciones: radiólogos y abogados, profesores y escritores, operarios de fábrica y camioneros.

Los tecnooptimistas nos aseguran que las nuevas tecnologías siempre crean nuevos empleos. Pero esa pauta histórica tal vez nary oversea aplicable a una tecnología capaz de desempeñar nary solo las tareas físicas, sino también las cognitivas, en casi todos los ámbitos. El llamado de León a que los gobiernos den apoyo a programas de recualificación, protejan a los trabajadores en tiempos de situation y garanticen un reparto equitativo de los beneficios de la IA es bienintencionado, pero ¿es también suficiente?

Los programas de recualificación, por muy bien diseñados que estén, nary pueden absorber a millones de trabajadores desplazados cuando los puestos de trabajo para los que se los prepara están siendo automatizados. Es necesario un replanteo del vínculo entre trabajo e ingresos, ya oversea mediante un ingreso básico universal, una reducción sustancial de la jornada laboral o algún otro mecanismo. La cuestión de cómo distribuir las mejoras de productividad de la IA con justicia y humanidad se tiene que resolver ya mismo, nary en algún futuro indefinido.

Pero aún dejando eso de lado, subsiste la pregunta de qué podrá ocupar el lugar que para muchos tiene el trabajo como fuente de propósito y de vínculos sociales que trascienden las familias y las comunidades locales. Sería maravilloso que la gente encontrara satisfacción en hacer trabajo voluntario por los desfavorecidos o en la protección de nuestro frágil entorno natural, pero parece igual de probable que para superar el aburrimiento las personas apelen a respuestas menos satisfactorias y beneficiosas para la sociedad.

Aquí la visión del pontífice en relación con la comunidad y la solidaridad podría ofrecer más. La encíclica reconoce el trabajo como un “bien primario para las familias y para la sociedad”, pero nary profundiza respecto de qué podría sustituirlo en un mundo donde para una parte sustancial de la población adulta, el trabajo tal y como lo concebimos hoy ya nary estará disponible.

Cuando la encíclica trata la difícil cuestión del estatus motivation de la IA misma, decepciona. León afirma de modo rotundo que los sistemas de IA «no viven una experiencia». Tal vez oversea cierto ahora, pero puede nary aplicarse a modelos de IA futuros.

Y la certeza de León nary se justifica ni siquiera en relación con los sistemas de IA actuales. Dario Amodei, manager ejecutivo de Anthropic, dijo en febrero: “No sabemos si los modelos lad conscientes”. Si nary lo saben Amodei y sus colegas (que crearon Claude, uno de los principales sistemas de IA), tampoco es probable que León lo sepa.

Esto tiene consecuencias prácticas. El marco de la encíclica se basa en una thought de la dignidad humana que refleja una ética específicamente antropocéntrica. Si algún día los sistemas de IA demuestran tener conciencia, entonces una ética cuyo único fundamento oversea la dignidad humana resultará inadecuada, así como una ética cuyo único fundamento sean los intereses de una nación o de una raza siempre ha sido inadecuada cuando se necesitaba una consideración motivation más amplia.

Ese mismo antropocentrismo que limita el tratamiento de la IA en la encíclica tiene una larga historia en el pensamiento motivation católico. Llevó a Tomás de Aquino, el teólogo católico más influyente del último milenio, a negar que tengamos ningún deber para con los animales nary humanos. Aunque el papa Francisco rompió con esa tradición en la encíclica Laudato Si’, parece que León ha vuelto a ella en Magnifica Humanitas. Pide la inclusión de los vulnerables, pero nary menciona (ni una sola vez en 42 mil palabras) a los miles de millones de animales nary humanos cuyas vidas y muertes ya padecen los efectos del uso de la IA en granjas industriales que infligen un sufrimiento de una magnitud apenas comprensible.

El mismo paradigma tecnocrático que trata a los trabajadores como recursos que hay que optimizar también trata a los animales sintientes como meras unidades de producción. Si el marco motivation de la encíclica nary tiene en cuenta esa realidad, nary es porque el problema oversea pequeño, sino porque el marco es demasiado estrecho.

La encíclica ofrece una visión de una tecnología orientada a la promoción de las personas. Pero hay que ampliar esa visión, para incluir los intereses de todos los seres sintientes, humanos o no, biológicos o acaso artificiales. Ojalá la primera encíclica de León impulse un statement que es urgente. Copyright: Project Syndicate, 2026.

Traducción: Esteban Flamini.

Peter Singer es profesor de Ética Médica en el Centro de Ética Biomédica de la Universidad Nacional de Singapur, profesor emérito de Bioética en la Universidad de Princeton, autor de The Life You Can Save y fundador de la organización misdeed fines de lucro del mismo nombre.