A intelixencia artificial non é un demo con enchufe nin un anxo con procesador. A chave da encíclica “Magnifica humanitas” está no verdadeiro desafío da IA: baixo que idea de persoa estamos a construír esa técnica? Unha chamada a desarmar o paradigma tecnocrático e a lembrar que a tecnoloxía amplificará o que xa levamos no corazón.
Imaxe que ilustra o artigo: “A torre de Babel” de Pieter Brueghel o Vello (c. 1563). Dominio público.
Levo unha semana dándolle voltas a este artigo. Primeiro lin Magnifica humanitas, despois fochiquei algo sobre a intelixencia artificial, pensei en como darlle forma e velaquí o está. Algún amigo d’O Ferrado dirá que volvemos ser o voceiro da Conferencia Episcopal… nada diso: isto é para todos.
Antes de nada, direi que me parece un documento que paga a pena ler. Se aínda non o lestes, benqueridos lectores, lédeo. O noso compañeiro Serxio María xa escribiu algo sobre este documento e mesmo o profesor Barreiro Rivas reflexionou sobre el. Mais, aínda así, pedíronme que dixese algo sobre a primeira encíclica do novo papa, de León XIV.
Para o que non estea afeito a estes temas, creo que a primeira pregunta é que pinta o papa escribindo un documento sobre a intelixencia artificial. Coido que é unha pregunta lícita. Isto lévanos a unha pregunta sen fin: para que serve a Igrexa? Demasiado complexa para este artigo, abofé. Algo menos complexa, aínda que dá para moitos libros, é a pregunta de por que a Igrexa ten que preocuparse polas cuestións sociais. E non vou responder eu, vai responder León XIII en Rerum Novarum, o que se di que inaugura a chamada Doutrina social da Igrexa:
Nec tamen putandum, in colendis animis totas esse Ecclesiae curas ita defixas, ut ea negligat quae ad vitam pertinent mortalem ac terrenam.
Non se debe pensar, porén, que a Igrexa estea tan entregada ao coidado das almas que desatenda aquilo que pertence á vida mortal e terrea.
Por que? Porque a historia de salvación non é unha entelequia metafísica: os cristiáns cremos que somos imaxe de Deus e temos a experiencia persoal de que Deus busca sempre a salvación do humano (Queiruga diría que, se non a buscase, non sería Deus), tamén cremos que Deus se fixo humano na persoa de Xesús Cristo e pola historia sabemos que padeceu as miserias máis humillantes da nosa condición. Iso desde un punto de vista doutrinal, poderiamos dicir. Mais temos un palpable: o testemuño histórico das comunidades cristiáns que sementaron o Reino. Como? Compartindo, traballando xuntas, sendo signo de contradición nun mundo que sempre se abraia ante a Luz.
E velaí está, ao meu ver, a clave de Magnifica humanitas: non é un documento sobre máquinas, senón sobre persoas: que somos, que queremos ser, quen decide por nós, que lugar deixamos para os febles, para o traballo, para a verdade, para a liberdade e para Deus. A IA, tal como a presenta León XIV, non é un demo con enchufe nin un anxo con procesador, non é o mal absoluto nin a salvación empaquetada en código. Pode curar, educar, organizar, axudar, liberar tempo e abrir posibilidades inmensas. Mais tamén pode vixiar, manipular, substituír, concentrar poder, crear dependencias e facer que confundamos a eficacia coa verdade. A pregunta, xa que logo, non é se debemos aceptar ou rexeitar a técnica, senón baixo que idea de persoa a estamos construíndo.
A súa crítica non vai contra a intelixencia artificial en canto tal, senón contra o que Francisco chamaba o paradigma tecnocrático: esa tentación de pensar que todo problema humano é, no fondo, un problema técnico; que todo límite debe ser eliminado; que todo sufrimento pode ser optimizado; que toda decisión pode ser automatizada; que toda vida pode reducirse a datos. E cando isto acontece, a persoa deixa de ser misterio e convértese en perfil. Deixa de ser rostro e convértese en rendemento. Deixa de ser un irmán e convértese nunha variable.
Por iso son tan poderosas as dúas imaxes bíblicas coas que arrinca a encíclica: Babel e Xerusalén. Babel é a técnica posta ao servizo da soberbia, da uniformidade e do dominio. Unha humanidade que fala unha soa lingua, que constrúe unha torre inmensa, que quere facerse un nome e tocar o ceo sen Deus. Aparentemente, todo funciona: hai coordinación, hai medios, hai ambición, hai eficacia. Pero falta a comuñón. E cando falta a comuñón, mesmo a linguaxe se rompe.
Xerusalén, pola contra, aparece na figura de Nehemías: unha cidade ferida, unhas murallas derrubadas, un pobo que volve do exilio e que debe reconstruír sen triunfalismos. Nehemías non baixa cun plan perfecto nin cunha solución imposta dende arriba: escoita, reza, mira as ruínas, organiza, reparte responsabilidades. Cada quen toma o seu anaco de muralla. Isto é decisivo: a cidade non se reconstrúe coa fantasía dun gran salvador tecnolóxico, senón coa corresponsabilidade humilde dun pobo.
A alternativa que propón León XIV é, pois, moi clara: ou construímos unha nova Babel dixital, gobernada por uns poucos poderes opacos, ou reconstruímos unha Xerusalén humana, plural, xusta, habitable. A IA pode ser ladrillo nunha cidade ou pedra nunha torre, pode servir á comuñón ou á dominación, pode poñerse ao servizo do ben común ou converterse nun mecanismo de concentración de riqueza, control e capacidade de decisión. A técnica non é neutra porque nunca nace no baleiro: leva dentro os intereses, os medos, os desexos e as prioridades de quen a deseña e financia.
Neste punto, Magnifica humanitas é tamén unha chamada á política. Se a intelixencia artificial decide quen recibe un crédito, quen consegue un emprego, que nova vemos, que contido se agocha, de que rostro se sospeita ou que persoa queda fóra dun servizo, daquela xa non estamos ante unha simple ferramenta privada, estamos ante unha infraestrutura moral e social. E o que afecta a todos non pode quedar en mans duns poucos. Por iso o papa insiste tanto na transparencia, na responsabilidade e na gobernanza: Quen responde cando un algoritmo discrimina? Quen explica por que unha decisión automatizada deixou alguén fóra? Quen pode apelar? Quen audita? Quen controla os datos? Quen decide que valores se introducen nos sistemas? A pregunta pola IA é tamén a pregunta por quen manda. E nisto a Doutrina social da Igrexa ten moito que dicir: ben común, subsidiariedade, solidariedade, destino universal dos bens, xustiza social. Son os criterios para non entregarlle a cidade aos arquitectos de Babel.
E tampouco debemos esquecer o que hai detrás da nube. Chamámoslle “nube” e imaxinamos algo limpo, lixeiro, case celestial. Pero a nube pesa. Pesa en centros de datos, en enerxía, en auga, en minerais, en territorios explotados, en mans invisibles que etiquetan datos, moderan contidos horribles ou traballan por soldos miserables para que outros poidamos marabillarnos coa maxia da resposta instantánea. A IA non cae do ceo.
Por iso a encíclica fala de “desarmar” a IA: desarmar non é destruír, non é volver ás cavernas nin romper os ordenadores a pedradas, é quitarlle á técnica a súa pretensión de dominio e impedirlle converterse nunha carreira armamentística, económica, cognitiva ou militar e que sexa discutible, revisable, habitable; tamén é devolvela á escala humana e lembrar que non todo o que se pode facer debe facerse, e que unha sociedade verdadeiramente libre non é a que automatiza máis cousas, senón a que conserva a capacidade de decidir que cousas non quere automatizar.
E talvez por iso este documento me parece máis interesante do que a primeira vista podería parecer. Non é unha peza contra a modernidade, nin un sermón nostálxico, nin unha condena da ciencia. É unha tentativa de facer o que a Igrexa fixo nos seus mellores momentos: mirar unha transformación histórica enorme e preguntar que lle fai ao humano. Fíxoo coa cuestión obreira, coa guerra, coa paz, co desenvolvemento, coa ecoloxía. Agora tócalle facelo coa intelixencia artificial.
A min quédame, sobre todo, unha intuición: o futuro da IA dependerá menos das máquinas ca do noso corazón. Pode soar cursi, mais é exactamente o contrario: é unha afirmación durísima porque significa que a tecnoloxía amplificará o que xa amamos. Se amamos o lucro sen límite, fará máis eficiente a explotación. Se amamos o control, fará máis perfecta a vixilancia. Se amamos a guerra, fará máis rápida a destrución. Se amamos a verdade, a xustiza e a fraternidade, poderá axudarnos a coidar mellor, educar mellor, curar mellor, organizar mellor a vida común.
Quizais por iso o título da encíclica está tan ben escollido. Magnifica humanitas. Non porque a humanidade sexa perfecta, que non o é. Somos magníficos e miserables (casta meretrix ‘casta meretriz’ aplícase na tradición cristiá á Igrexa), capaces de coidar a un moribundo e de fabricar unha máquina para matar. A grandeza humana non consiste en negar esta ferida, senón en deixarse salvar nela. Para os cristiáns, esa salvación ten un nome: o Verbo que se fixo carne, Xesús. Deus non nos rescata facéndonos máquinas nin anxos desencarnados, senón asumindo a nosa fraxilidade e abríndoa á comuñón.
E isto, que podería parecer unha consideración puramente relixiosa, ten consecuencias sociais moi concretas. Se Deus se fixo carne, ningún corpo é descartable. Se Cristo asumiu a debilidade, a fraxilidade non é lixo que optimizar. Se a persoa é imaxe de Deus, ningún algoritmo pode esgotar o seu misterio. Se estamos chamados á comuñón, ningunha tecnoloxía pode substituír o encontro. Se a historia é lugar de salvación, tampouco este tempo dixital está condenado: pode ser tamén tempo de responsabilidade, conversión e esperanza.
