El miembro de Anthropic que dio el discurso fue su cofundador, Christopher Olah, un renombrado investigador en interpretabilidad de Inteligencia Artificial. El discurso tuvo lugar el 25 de mayo de 2026 en la Ciudad del Vaticano, durante la presentación oficial de la primera encíclica del Papa León XIV, Magnifica humanitas.
Lo más destacado de su intervención se centró en la necesidad de una humildad técnica y de una guía moral externa para la industria tecnológica.
Puntos clave del discurso de Chris Olah
Los límites de los incentivos comerciales: Olah admitió con franqueza que los laboratorios de IA (incluido Anthropic) operan bajo fuertes presiones comerciales, geopolíticas y de ambición personal que a veces chocan con «hacer lo correcto». Por ello, aplaudió que el Vaticano actúe como una «voz moral que los incentivos no puedan doblegar», ajena a las presiones del mercado.
La IA no se construye, se «cultiva»: Explicó que los modelos de lenguaje actuales no son como un avión o un puente, donde los ingenieros entienden cada pieza y su física. Al contrario, son sistemas que se «cultivan» sobre estructuras inspiradas en el cerebro humano y se alimentan de nuestra historia, palabras y pensamientos.
Cosas misteriosas e «inquietantes» dentro de los modelos: Al ser experto en estudiar el interior de las redes neuronales, Olah compartió que en Anthropic han detectado estructuras internas complejas que muestran indicios de introspección y estados internos análogos a la alegría, el miedo, el duelo o la inquietud. Sorprendió al auditorio al admitir con total honestidad: «Yo no sé qué significa eso, pero creo que merece un discernimiento continuo».
Una cuestión para las humanidades: Concluyó que, dado que las IA ya no son simples robots calculadores sino entidades sutiles que imitan lo humano, las preguntas sobre cómo deben interactuar con el mundo ya no pertenecen a los científicos de la computación, sino a la filosofía, la religión y la sociedad en general.
La trinidad de las presiones
Olah no se presentó como el representante de una empresa perfecta que tiene todas las respuestas éticas bajo control. Al contrario, admitió que laboratorios de vanguardia —incluido Anthropic— operan dentro de una olla a presión impulsada por tres fuerzas masivas:
Presión comercial: El mercado exige velocidad. Las empresas cotizadas o respaldadas por fondos de riesgo necesitan lanzar productos constantemente para retener inversores, captar usuarios y generar ingresos masivos.
Presión geopolítica: Existe una carrera armamentística global por el dominio de la IA (especialmente entre potencias como EE. UU. y China), lo que genera la mentalidad de «si no lo hacemos nosotros primero, lo hará alguien peor», justificando saltarse filtros de seguridad.
La ambición personal: El ego de los propios ingenieros y científicos de Silicon Valley, seducidos por la idea de ser los primeros en resolver la Inteligencia Artificial General (AGI).
