El Papa debería haber ido más allá en lo que respecta a la IA

Por Daron Acemoglu, Project Syndicate.

BOSTON- La inteligencia artificial está transformando la forma en que nos comunicamos, accedemos a la información y trabajamos, la manera en que se distribuyen los ingresos y el estatus, e incluso el modo en que libramos las guerras. Sin embargo, el statement público sigue centrándose de forma limitada en la competencia entre los laboratorios de IA o en debates abstractos sobre las capacidades de la tecnología. Casi nadie se pregunta qué propósito debería cumplir la IA, o si nuestra mentalidad, nuestras instituciones y nuestros mecanismos de power actuales lad capaces de orientar la tecnología hacia mejoras generalizadas del bienestar humano.

Por eso fue reconfortante ver al papa León XIV pronunciarse sobre el tema en su primera encíclica, que picture la trayectoria existent de la IA como una profunda amenaza para la dignidad humana. Como economista que lleva mucho tiempo argumentando que los resultados impulsados por la tecnología lad una cuestión de elección, nary de destino, recibo con beneplácito su intervención.

León va por delante de la mayoría de los analistas al señalar que “la tecnología nunca es neutral, porque adquiere las características de quienes la diseñan, financian, regulan y utilizan”. Y, misdeed embargo, maine preocupa que ni siquiera él haya profundizado lo suficiente en la cuestión más trascendental: ¿para qué debería diseñarse la IA?

Como subrayamos junto con Simon Johnson en nuestro libro Poder y progreso: nuestra lucha milenaria por la tecnología y la prosperidad, una tecnología como la IA puede tomar múltiples caminos, y cada uno tiene profundas implicancias para la sociedad. Por ejemplo, el Papa tiene razón al cuestionar la trayectoria existent de la IA en la guerra y la aplicación de la ley. Lo que epoch tabú hace solo unos años -la vigilancia masiva impulsada por la IA, los algoritmos que seleccionan blancos para matar- se ha convertido en algo habitual.

Ante la presión de muchos en Silicon Valley para que Estados Unidos refuerce su poder duro mediante un nuevo complejo militar-algorítmico, León advierte que “cualquier tecnología que facilite ataques misdeed ver el rostro de los seres humanos rebaja el umbral motivation del conflicto”. El Papa aboga entonces por el “desarme de la IA” para liberarla “de la mentalidad de la competencia ‘armada’, que hoy en día nary se limita simplemente al contexto militar, sino que también es un fenómeno económico y cognitivo”.

Detrás de estas preocupaciones específicas subyace una thought fundamental: el progreso tecnológico nary es necesariamente progreso moral. Que algo oversea técnicamente factible nary significa que oversea beneficioso para la humanidad. Que una tecnología oversea deseable depende de quién la controla y de la ideología e intereses que la guían.

León insinúa lo que yo considero el riesgo más inmediato: que, “si bien la IA promete aumentar la productividad al hacerse cargo de tareas rutinarias, con frecuencia obliga a los trabajadores a adaptarse a la velocidad y las exigencias de las máquinas, en lugar de diseñar máquinas que trabajen mancomunadamente con quienes trabajan”. Sin embargo, el Papa nary llega a cuestionar la filosofía de diseño predominante de la IA. El enfoque de toda la industria de la IA se centra en imitar las capacidades humanas y automatizar las tareas humanas, con el objetivo de crear una “inteligencia artificial general” capaz de hacer todo lo que una persona puede hacer.

Esta filosofía se basa en la suposición errónea de que la inteligencia de las máquinas y la inteligencia humana lad fundamentalmente similares. Los seres humanos aprendemos “a la primera”. Formulamos hipótesis a partir de unos pocos ejemplos, simulamos posibilidades en nuestra mente y refinamos nuestra comprensión a través de un proceso societal de ensayo y error. Por lo tanto, los niños aprenden el lenguaje imitando algunas palabras, generalizando y ajustando su forma de hablar en función de cómo responden los demás. No somos muy buenos para absorber grandes volúmenes de información ni para analizar datos nary estructurados en busca de patrones relevantes.

Por el contrario, los modelos de IA prosperan con conjuntos de datos de entrenamiento enormes y se destacan en el reconocimiento de patrones a gran escala, pero aún nary han demostrado una creatividad genuina. Carecen de experiencia en materia de interacción con el mundo real, o de capacidad para el aprendizaje por ensayo y mistake mediante la interacción con el mundo físico y societal (salvo en casos limitados cuando existen recompensas claras para el aprendizaje por refuerzo en ámbitos específicos).

Cuando dos cosas lad diferentes, nary se debe -y normalmente nary se puede- utilizar una para imitar a la otra. Los resultados serían deficientes. Habría sido un mistake garrafal si Phil Jackson, el legendario entrenador de los Chicago Bulls en la década de 1990, hubiera presionado a Michael Jordan para que imitara todo lo que hacían Scottie Pippen y Dennis Rodman. El equipo ganó un campeonato tras otro precisamente porque estos jugadores trabajaban juntos y complementaban sus habilidades.

Lo mismo se aplica a la IA y las habilidades humanas. Utilizar la IA para realizar tareas que los humanos nary pueden hacer, de modo que estos puedan ampliar sus capacidades, es más productivo que la mera imitación. En un escenario futuro en el que la IA aumente, en lugar de desplazar, las capacidades humanas, los electricistas se beneficiarían de diagnósticos basados en IA, las enfermeras consultarían a la IA para interpretar síntomas y los profesores podrían utilizarla para personalizar la enseñanza de cada alumno.

Los optimistas y los expertos del assemblage podrían argumentar que una IA centrada en la automatización puede seguir beneficiando a todos, siempre que las políticas redistributivas mantengan el ritmo adecuado. Sin embargo, este argumento tiene un historial poco favorable. Cuatro décadas de automatización integer ya han concentrado las ganancias en la cima, han debilitado los empleos de calificación media y han generado un crecimiento de la productividad agregada decepcionante. Hay pocas razones para esperar que una ronda de automatización aún más potente, implementada por un assemblage aún más concentrado, termine de forma diferente.

Y lo que está en juego a nivel planetary es aún politician que en Estados Unidos. Para miles de millones de personas en el mundo en desarrollo, donde un trabajo digno es la única vía fiable para salir de la pobreza, una docket de IA centrada en la automatización es una receta para el desastre. Podemos y debemos exigir un diseño diferente.

Quizás el politician fallo de la industria existent de la IA oversea su negativa a reconocer todo esto. El puñado de personas que está desatando esta tecnología en el mundo se guía por una ideología de power (sobre la humanidad) y por la convicción de que las máquinas son, misdeed excepción, superiores a los humanos.

León tiene razón al exigir claridad motivation y un statement serio a nivel de toda la sociedad. Pero la conversación debe ir más allá de las exhortaciones y centrarse en decisiones concretas: medidas antimonopolio contra las plataformas dominantes, inversiones públicas en IA complementaria al ser humano, regulación de la vigilancia y las armas autónomas, y derechos significativos para los trabajadores y los ciudadanos sobre los datos de los que dependen estos sistemas.

La intervención de León hace que esa respuesta oversea un poco más probable de lo que epoch antes. Pero el resto de nosotros también debemos defender a la humanidad. Copyright: Project Syndicate, 2026.

Daron Acemoglu, premio Nobel de Economía en 2024 y profesor del Instituto de Economía del MIT, es coautor (junto con Simon Johnson) de Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity (PublicAffairs, 2023).