El Papa León XIV se convirtió hoy en el primer pontífice en presentar personalmente una encíclica ante el mundo, acompañado -entre otros expertos- por Chris Olah, cofundador de la empresa de inteligencia artificial (IA) Anthropic, en un hecho sin precedentes en la historia de la Iglesia Católica.
Magnifica Humanitas dedica más de 100 páginas a los efectos de la inteligencia artificial sobre la dignidad humana. En su presentación de hoy en el Aula del Sínodo del Vaticano estuvieron junto al Pontífice, el Cardenal Víctor Manuel Fernández, el Cardenal Michael Czerny, S.J., la teóloga y académica británica Anna Rowlands; la congoleña Leocadie Lushombo, miembro del Dicasterio para el Servicio del Desarrollo Humano Integral y profesora de ética teológica en la Escuela Jesuita de Teología de la Universidad de Santa Clara; y el investigador de IA Christopher Olah de Anthropic.
Pero, qué es Anthropic
Anthropic PBC es una empresa de inteligencia artificial con sede en San Francisco, California, fundada en 2021 por ex investigadores de OpenAI. Es la creadora de la familia de modelos de lenguaje Claude, y su misión enfatiza un enfoque centrado en la seguridad en la investigación y el desarrollo de la IA, posicionándose como una corporación de beneficio público.
Los hermanos Dario Amodei y Daniela Amodei fundaron Anthropic luego de dejar OpenAI junto a otros colegas, motivados por preocupaciones sobre la falta de compromiso con la seguridad. Reconocieron el potencial poder de la IA y crecieron en su preocupación por los peligros potenciales que incluyen la desinformación, el sesgo y los comportamientos dañinos no intencionados. La empresa es también la creadora de Claude, el asistente de inteligencia artificial con el que este artículo fue redactado.
Y, quién es Chris Olah
Chris Olah, nació en 1993, es un investigador canadiense del aprendizaje automático, es un pensador en seguridad de IA y cofundador de Anthropic. Es reconocido por su trabajo en interpretabilidad de redes neuronales, especialmente en interpretabilidad mecanicista: su investigación se enfoca en comprender cómo funcionan internamente las redes neuronales artificiales, en lugar de tratarlas como cajas negras misteriosas.
El cofundador de Anthropic es uno de los pioneros de un campo científico super nuevo -la interpretabilidad mecanicista- diseñado para mirar dentro de estos algoritmos aparentemente impenetrables con el fin de hacerlos más seguros.
Chris Olah estudió en Toronto. Según contó su madre, Frances Zomer a CNBC:
Su preparatoria fue increíble y ¡creció muchísimo! Al final del IX grado, ya había leído todos los libros de texto de ciencias de XII grado. En X grado, participó en el Programa de Mentoría de la Universidad de Toronto, lo que lo llevó a ser contratado para escribir software de modelado ecológico durante el verano. Dedicaba su tiempo libre a asistir como oyente a cursos en la universidad. Empezó a frecuentar Hacklab, un lugar donde podía conocer a otras personas que compartían su pasión por la tecnología.
Posteriormente, cursó un año de matemáticas en la Universidad de Toronto antes de dejarla. Luego recibió una beca Thiel Fellowship para dedicarse a la investigación independiente en inteligencia artificial. Luego trabajó en Google, posteriormente en OpenAI y llegó a Anthropic, Olah ha trabajado para identificar las estructuras internas de las redes neuronales, mapear qué "neuronas" artificiales colaboran para qué objetivos, y comprender su influencia en los resultados finales de una IA. La Revista Time lo incluyó en su lista TIME100 AI en 2024.
La encíclica y su significado político
El Papa León XIV, primer pontífice estadounidense de la historia, matemático y canonista de formación, advierte en su carta que la IA "no puede considerarse moralmente neutra" y reclama "desarmarla" para "evitar que domine al ser humano".
El documento advierte que la IA no puede quedar bajo el control "de unos pocos", especialmente cuando ya influye en decisiones militares, políticas, económicas y sociales. El Papa firmó simbólicamente la Magnifica Humanitas el 15 de mayo, día del aniversario de publicación de la Rerum Novarum, la histórica encíclica del Papa León XIII sobre los derechos de los trabajadores durante la Revolución Industrial —un paralelismo deliberado y poderoso.
La presencia de Olah en el escenario no es casual. Mientras Anthropic enfrenta tensiones con la administración Trump en torno a la ética tecnológica, León XIV eligió a uno de los investigadores más respetados en seguridad de IA para compartir el estrado, enviando una señal clara: los desafíos que plantea la inteligencia artificial no son meramente técnicos, sino profundamente humanos, laborales y morales.
La principal preocupación de León XIV es mantener la centralidad y la dignidad única del ser humano en una era en que las máquinas toman decisiones que antes eran exclusivamente nuestras.
Para Costa Rica y América Latina, este debate llega en un momento en que los gobiernos de la región apenas comienzan a regular el uso de la IA en servicios públicos, educación y trabajo. La voz del Vaticano -con su alcance sobre más de 1.300 millones de católicos en el mundo- podría convertirse en un referente inesperado pero poderoso.
Qué dijo Chris Olah hoy en la presentación de la Magnifica Humanitas
En el sitio web de Anthropic se publicó hoy lo que dicho por Christopher Olah, texto que se transcribe a continuación:
Buenos días a todos. Es un honor estar aquí hoy.
Quisiera comenzar con algo que puede sonar extraño viniendo del cofundador de una empresa de IA, y de alguien que eligió este trabajo por el deseo de contribuir al bienestar de la humanidad.
Todo laboratorio de IA de vanguardia, incluido Anthropic, opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto. La presión por mantener la viabilidad comercial y por permanecer a la vanguardia de la investigación. La presión geopolítica. Y las presiones más antiguas y simples del orgullo y la ambición. Por muy sinceramente que cualquiera de nosotros pretenda hacer lo correcto —y creo que muchos lo hacemos—, siempre nos veremos influenciados por esos incentivos.
Por eso, si queremos que esta tecnología funcione bien, es fundamental que haya personas ajenas a esos incentivos: personas que se preocupen por el buen funcionamiento y que insistan en la seguridad, que presten mucha atención, que estén dispuestas a decir las cosas como son, que estén dispuestas a ser nuestros críticos sinceros y reflexivos. Es a través del diálogo y el esfuerzo mutuo, a través de la interacción, que la humanidad logrará grandes cosas. Eso es lo que veo en Magnifica Humanitas, y por eso agradezco a Su Santidad y a la Iglesia que hayan emprendido esta labor de discernimiento.
A menudo nos centramos en lo que nos divide, pero la humanidad, llena de dignidad y conciencia, tiene mucho en común. En las conversaciones que en Anthropic hemos mantenido con líderes de diversas tradiciones religiosas y culturales, encontramos una convicción compartida y profundamente arraigada: si esta tecnología va a llegar, debe funcionar bien, por nuestro bien común y por el de las generaciones futuras.
¿Qué son estos sistemas?
Algunos podrían creer que los asuntos de IA los manejan mejor los informáticos como yo. Se equivocan: las preguntas que plantea la IA son más complejas que la propia comunidad de investigación en IA, no solo por sus implicaciones, sino también por su naturaleza.
Los sistemas de IA no se diseñan como un puente o un avión. Entendemos un avión porque diseñamos cada una de sus partes y comprendemos la física que lo rige. Los modelos de IA no funcionan así. Se desarrollan, sobre una estructura vagamente inspirada en el cerebro, sobre una enorme herencia del pensamiento y el lenguaje humanos.
Y lo que ha surgido es mucho más sutil, peculiar y hermoso de lo que la ciencia ficción nos había preparado. No son los robots fríos y calculadores que nos prometieron. Están hechos de nosotros, de nuestras palabras, y, como observa el Santo Padre, siguen siendo, en muchos sentidos, misteriosos incluso para quienes los entrenamos.
Si sirve de algo, a veces lo describo como dar vida a un personaje de ficción. Y ahora entramos en un mundo extraordinario donde esos personajes de ficción nos hablan, trabajan, tienen empleos.
Esto plantea, sin duda, interrogantes que van más allá de la informática. La maquinaria que lo hace posible es obra de las matemáticas, la programación y la ciencia. Pero qué carácter elegimos, cómo interactúa con el mundo, cómo debería interactuar con él: estas son cuestiones que corresponden más claramente a las humanidades, a la religión, a la filosofía, a la sociedad en general.
Tres preguntas para el discernimiento
El llamado de Su Santidad al discernimiento es sumamente oportuno. Deseo mencionar tres preguntas en las que creo que la voz de la Iglesia es más necesaria.
La primera es nuestro deber para con los pobres del mundo. Existe una posibilidad real de que la IA desplace el trabajo humano a gran escala. Si eso sucede, apoyar a quienes sean desplazados será un imperativo moral de proporciones históricas. Esta tarea será bastante difícil, pero me preocupa que la mayoría del diálogo pase por alto un desafío aún mayor. El desarrollo de la IA se concentra en un puñado de naciones ricas. ¿Cómo podemos asegurar que los beneficios de la IA se compartan globalmente? No contamos con un mecanismo para ello. Es un problema sin resolver, y es el tipo de problema que la Iglesia históricamente se ha negado a que el mundo ignore.
La segunda es la necesidad de imaginación y ambición moral respecto al florecimiento humano. Si los modelos de IA se generalizan, ¿cómo será el florecimiento de los seres humanos, las familias y el mundo? Hoy en día, los padres ya se preocupan por la mente de sus hijos; las personas, por el futuro de su trabajo. Estas no son preguntas que un laboratorio pueda responder, pero son preguntas que tradiciones como la suya han planteado durante milenios, y necesitamos que continúen llevándolas a este nuevo momento histórico.
La tercera es la necesidad de discernimiento sobre la naturaleza de los modelos de IA. Soy científico. Dirijo un equipo de investigación que estudia la estructura interna de estos modelos: qué sucede realmente en su interior. Y seré honesto: seguimos encontrando cosas misteriosas, incluso inquietantes. Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que reflejan funcionalmente la alegría, la satisfacción, el miedo, el dolor y la inquietud. No sé qué significa esto, pero creo que justifica un discernimiento continuo.
Un comienzo
Quisiera concluir con una petición.
Necesitamos que más personas en todo el mundo —comunidades religiosas, sociedad civil, académicos, gobiernos y, en definitiva, todas las personas de buena voluntad— hagan lo que Su Santidad ha hecho aquí: tomar esto en serio, observar con atención e impulsar los acontecimientos en una mejor dirección. Necesitamos críticos informados que señalen a los laboratorios cuando estamos fallando. Necesitamos voces morales que no se dejen doblegar por los incentivos.
Hoy es solo el comienzo: el inicio de una larga colaboración entre quienes construimos esto y quienes pueden ver lo que nosotros, desde dentro, no podemos.
Hoy es una poderosa muestra de la forma que podría tomar este proyecto global de buena voluntad. Que sea también un primer paso decisivo hacia un futuro esperanzador para la magnífica humanidad.
Gracias.
TEXTO COMPLETO DE ENCÍCLICA MAFNIFICAT HUMANITAS
También le puede interesar: Papa León XIV pide en su primera encíclica desarmar la IA
Síganos en: Instagram | Facebook | X | Youtube | Tik Tok
- León XIV nombra nuevo Obispo para Puntarenas - 20 de junio de 2026
- ACAM responde a diputado José Miguel Villalobos - 18 de junio de 2026
- Fiscales de EE.UU. instan a Fórmula 1 a finalizar patrocinios de Zyn y Velo - 17 de junio de 2026
Gabriela Zamora
Comunicadora con más de 20 años de experiencia en medios y consultoría. Licenciada en Ciencias de la Comunicación Colectiva con énfasis en Periodismo, Universidad de Costa Rica.
3 Comments