Tiempo de lectura 17 minutos

* Marcos Domínguez- @zoncerasabiertas

«El ser humano, cegado por el espejismo de la tecnología, ha olvidado las verdades que están en la base de su existencia.»

Juan Domingo Perón, Modelo Argentino para el Proyecto Nacional

León XIV publicó su primera encíclica y eligió, para inaugurar su magisterio, el problema que organiza la época: la inteligencia artificial. La firmó el 15 de mayo, en el aniversario ciento treinta y cinco de la Rerum Novarum (“Las cosas nuevas”), aquella carta con la que en 1891 la Iglesia puso palabras a la lucha obrera mientras la Revolución Industrial reordenaba el mundo.

Entre la prosa teológica, aparece un verbo: desarmar. La inteligencia artificial, sostiene el Papa, debe ser desarmada.

Desde el comienzo, aclaro al lector que el problema de este artículo no es la tecnología, ni siquiera la inteligencia artificial en sí misma. Hablar de “la” tecnología o de “la” IA, como si fueran bloques homogéneos, inevitables y cerrados, es amputarse las herramientas antes de empezar a pensar. Allí reside buena parte del problema de enfoque que atraviesa casi todo lo que se escribe sobre el tema: o fascinación acrítica o rechazo defensivo. El problema que nos interesa es otro: la tecnología —y en particular la IA— capturada por el paradigma monotecnológico, es decir, por una racionalidad que presenta como destino universal una forma específica de organizar la técnica, el trabajo, el conocimiento, la atención y la vida común.

Quisiera precisar lo que, desde mi punto de vista, desarma la Encíclica, porque en la compulsión por “decir algo al respecto” el verbo se presta al malentendido. No hay en Magnifica Humanitas una nostalgia ludita de un mundo sin máquinas ni convocatoria a destruirlas; el texto reconoce el valor de la técnica y hasta se permite citar a Tolkien para pensar la responsabilidad humana frente a ella. Lo que el documento desactiva es el aura de fatalidad con que la IA se presenta ante nosotros. O la presentan, ante nosotros. 

La Iglesia se suma desde un vector moral y espiritual a lo ya dicho por muchos académicos: la tecnología no es neutral, porque asume el rostro de quien la concibe, la financia y la utiliza. Que bajo cada respuesta instantánea late una arquitectura de poder que prefiere no mostrarse.

Desarmar la IA, en el sentido que propone la encíclica, consiste en quitarle esa inocencia ideológica, en despojarla de la asepsia con que se nos ofrece. Desarmar es volver visible quién la financia, quién la diseña, quién la entrena. En su punto 173, Magnifica Humanitas rompe con el imaginario mágico de Silicon Valley y devuelve la IA a su materialidad: cada respuesta aparentemente inmediata proviene de una larga cadena de mediaciones hecha de litio, tierras raras, electricidad, agua —mucha— y cadenas globales de subordinación tecnológica. Hace años que Kate Crawford insiste en que esta inteligencia no es ni tan artificial ni tan inteligente: no es tan inteligente porque procede por clasificación estadística, una operación distinta de la rica y misteriosa cognición humana; y no es tan artificial porque nada de eso desciende de una nube inmaterial. Todo eso tiene dueños, costos y facturas que alguien termina pagando.

El gemelo colonial

Con este marco, detengamos un momento la mirada en el clima local. Mientras en Roma se discute la arquitectura del poder algorítmico, en la Argentina el multijurisdiccional Ministerio de Capital Humano presentó un «gemelo digital» destinado a «predecir el futuro» mediante IA. Grandilocuencias que mantienen en las sombras el hecho inobjetable de que implementar (bien) IA requiere procesos rigurosos de curaduría y gobernanza de datos que, al igual que el petróleo, requieren refinamiento. Pero además reglas de linaje, calidad y trazabilidad para ser interoperables. Además de políticas de accesibilidad, metadatos y transparencia que no maridan bien con el presente inmobiliario oficialista.

Lo cierto, lector, es que si en un modelo entra basura, lo que sale es también basura. De modo que montar el artefacto más sofisticado de la época sobre cimientos de datos no gobernados, o débilmente relacionados entre sí, equivale a calzarle el motor de una Ferrari al viejo Mehari del Eternauta: el estruendo promete una velocidad que el vehículo jamás alcanzará. Folklore menemista de estratósferas.

Hay algo más que conviene pensar sin el  tremendismo verbalista que satura la vida de redes, porque el debate sobre el gemelo digital se desplazó —con razón parcial— hacia los datos personales y el consentimiento. La inquietud es legítima pero omite otros pliegues más relevantes. Un gemelo digital es, en origen, una metáfora de la industria pesada; una réplica computacional de un sistema con leyes físicas estables, sensores confiables y un objetivo medible. Hasta ahí no hay objeciones. Trasladada al cuerpo social, la metáfora pierde casi todo su rigor. Las sociedades no son sistemas cerrados, no obedecen leyes invariantes, reaccionan al modelo que pretende describirlas o cartografiarlas y producen resultados distintos cada vez que alguien interviene. Anunciar que se «predice el futuro social» usando nuestros datos con una planilla cruzada con regresiones es un poco exagerado.

Por supuesto es más entretenida la tesis espiralada del Big Brother omnipotente y omnipresente donde todo forma parte de una conspiración mundial de relojería. Después de todo Netflix es la unidad básica más influyente el mundo. Pero el problema más grave es la renuncia explícita del Estado nacional de gobernar sus propias mediaciones. Es decir, perder su razón de ser para convertirse en superficie de prueba a disposición de proveedores externos que orientan la arquitectura misma de la intervención pública. En este caso el Estado argentino, de continuar el actual oficialismo administrándolo,  delegaría su capacidad de planificar alquilando a terceros extranjeros una arquitectura de decisión.

Miremos quién se sienta del otro lado de ese alquiler. Una semana después de que Palantir Technologies publicara un manifiesto reclamando que Silicon Valley abandone sus pudores progresistas y vuelva a fabricarle armas a Occidente, Peter Thiel —cofundador de la empresa, padrino del nuevo tecnoautoritarismo norteamericano— se reunía con Milei en Casa Rosada, después de tres semanas instalado en Buenos Aires. Palantir no vende chatbots ni aplicaciones simpáticas, sino que extrae, integra y modela datos para el Pentágono, los servicios de inteligencia y las fuerzas de seguridad occidentales. Si el software es el acero del siglo XXI, Palantir construye las fundiciones.

Lo que busca no es ningún misterio. La Argentina actual reúne una combinación escasa y apetecible: alineamiento automático con Washington, hambre financiera, energía abundante y una dirigencia colonizada al extremo dispuesta a confundir dependencia con modernización. Giuliano da Empoli llamó a esta época la hora de los depredadores, el momento en que los borgianos del planeta ofrecen los territorios que administran como laboratorio para que otros ensayen allí su visión del futuro. Milei cree sentarse a la mesa de los poderosos; en rigor, el golem libertario apenas pone el mantel.

Sin embargo, conviene no confundir la intención con la ejecución, porque entre una y otra hay más trecho del que el tremendismo suele admitir. Montar la arquitectura de decisión que Palantir promete exige precisamente lo que no tenemos: datos gobernados, interoperabilidad, trazabilidad, capacidad estatal.
El verdadero riesgo es el de una entrega en cuotas —un módulo hoy, una base de datos mañana—, ninguno grave por separado, pero romper esa continuidad es clave.

Desarmar el modelo

“Estamos de rodillas, rezando al dios equivocado, una deidad infantil y cruel que se esconde en medio de un mundo corrupto que no puede gobernar ni comprender. ¿O es que lo hemos creado, a nuestra repugnante imagen y semejanza, y luego nos hemos olvidado de ello, como los niños que dan luz a los monstruos que los acechan, sin darse cuenta de que son ellos mismos quienes tienen la culpa de sus desvelos?».

Benjamin Labatut – MANIAC

Hay, sin embargo, un segundo frente del verbo desarmar. Porque desarmar la IA es también desarmar la hermenéutica de una palabra que empleamos sin examinarla: modelo. 

Para quienes transitamos profesionalmente los huracanados vientos de lo que -por ahora- se denomina Ciencia de Datos, un modelo es una herramienta;  una representación formal y necesariamente simplificada de una porción de la realidad. Puede describir relaciones entre variables, predecir comportamientos probables a partir de patrones históricos o, en su versión más delicada, prescribir decisiones según una función objetivo previamente definida. Modelar consiste, en esencia, en transformar observaciones dispersas en una estructura capaz de producir inferencias. Pero ningún modelo optimiza “la realidad”: optimiza aquello que alguien decidió medir, ponderar.

Todo modelo se sostiene sobre cuatro elementos: datos, estructura, función objetivo y régimen de validez. Los datos son observaciones parciales y situadas, no la realidad completa. La estructura define qué relaciones podrá captar el modelo, qué patrones serán visibles y cuáles quedarán afuera. La función objetivo establece qué se busca minimizar o maximizar —error, costo, precisión, velocidad, rentabilidad— y esa decisión no surge de la naturaleza: es técnica, pero también política. El régimen de validez, por último, marca las condiciones bajo las cuales el modelo funciona. Incluso la buena generalización —esa virtud por la cual un modelo aprende lo suficiente sin quedarse corto ni memorizar el ruido del pasado— depende de que el futuro conserve alguna semejanza razonable con los datos observados. Cuando el contexto cambia, el oráculo empieza a tartamudear.

Esta insuficiencia subraya el límite. ¿Qué puede una  máquina?: sin conciencia, solo puede aumentar el ritmo de nuestro progreso (o acelerar nuestra caída), mas nunca guiarlo. Por ello, el error de base de rezarle al Dios maquínico reside en inventar al jugador, consumidor, o usuario perfecto e ignorar que la riqueza y complejidad de la vida humana, marcada por la cooperación, el sacrificio y las decisiones caprichosas, es irreductible a cualquier ecuación.

El problema en el que estamos situados es que las grandes corporaciones tecnológicas convierten esta herramienta en  una suerte tecno evangelio civilizatorio, que lleva la delantera en imponer, por derecha e izquierda, su visión en diversos temas, siendo la más difundida la del “impacto” de todo esto en el mundo del trabajo. Por supuesto, cuentan con muchísimos devotos de los cuales uno de los principales, es nuestro presidente. La palabra, la semántica, migra entonces desde la ingeniería hacia la metafísica:  “el modelo lo determinó”, “el sistema optimizó”, “la IA lo recomendó” son fórmulas que clausuran la deliberación invocando una autoridad sin rostro. Un «genio maligno» de estilo cartesiano en el que podemos tercearizar la responsabilidad de pensar, y de decidir. Un mayordomo sobreescolarizado, quizá, pero con algún atisbo autoritario que nuestra propia pasividad le imprime. La orden ya no parece venir de una persona, una institución o una clase dirigente, sino de “el modelo”. Y de esa autoridad emana la personalización algorítmica, una forma de gobierno que depende principalmente de la subordinación de nuestros Estados nacionales a las redes de dependencia tecnológica.

En esa migración, las métricas han pasado a ser, para muchos actores amarrados por la cultura data driven, criterios de realidad. Anteojeras con anabólicos. Así se instala lo que cabe llamar una epistemología totalitaria: un marco que define de antemano, y sin discusión, qué es relevante, qué parece verdadero y qué se presenta como inevitable. Allí reside la médula del paradigma monotecnológico, que no consiste en la abundancia de máquinas sino en la pretensión de una única racionalidad técnica con derecho a traducirlo todo —incluido el misterio de la persona— al lenguaje del dato. Lo que podríamos denominar la formalización computacional de lo social: un proceso de datificación y perfilización que opera sobre el tejido nervioso de la comunidad.

Desarmar la IA, en este plano, equivale a devolverle a la palabra modelo su sobriedad de origen: recordar que detrás de cada modelo hay una decisión humana acerca de qué optimizar, una decisión que admite ser discutida y que, por lo tanto, es política.

Babel o la ciudad común

La fantasía contemporánea de la optimización total nace de una fe profesada por quienes más poder concentran en el mundo, tan bien narrada en MANIAC, de Benjamin Labatut. La ilusión de que la artillería matemática puede reemplazar el contacto con la realidad concreta de las cosas, encapsular el caos humano en reglas limpias y borrar esa “peste” de errores, contradicciones, caprichos y sacrificios donde todavía respira algo de nuestra libertad. El problema es que una razón desvinculada de los aspectos más profundos de nuestra psique puede arrastrarnos por el hocico como a una mula borracha, hasta cerrar el círculo de la obediencia delegada: primero damos instrucciones a la máquina, después la máquina se da instrucciones a sí misma y, finalmente, empieza a dárnoslas a nosotros.

Hasta aquí, el diagnóstico podría suscribirlo cualquier crítico atento de la cultura digital. La tradición nacional aporta, en cambio, una manera de organizar la respuesta porque dispone de categorías que se revelan sorprendentemente vigentes.

Nuestra teoría de las mediaciones

La Comunidad Organizada, el texto que Perón expone en 1949, puede funcionar hoy como una teoría de las mediaciones. Su desconfianza apuntaba a trascender dos abstracciones simétricas: el individuo aislado que prometía el liberalismo y la masa administrada por la maquinaria (estatal si tomamos el libro con literalidad) que ofrecían los totalitarismos. Frente a ambas situaba a la persona en comunidad. Trasladada al presente, esa intuición sostiene que entre el individuo y el poder global debe haber sindicatos, escuelas, universidades, parroquias —organizaciones libres del pueblo—. Es decir, una trama institucional que medie, traduzca y proteja. El algoritmo con el que las big tech tentaculizan el mundo actual tiende deliberadamente a saltar esas mediaciones; prescinde de la trama y se dirige sin escalas hacia el individuo, reducido ya a usuario por el tecno liberalismo digital. Una verdadera maqueta social a medida de las corporaciones tecnológicas. 

Frente a ello, Jerusalén emerge en la nueva Encíclica como la imagen de la reconstrucción comunitaria. En términos del magisterio de Francisco, se trata de una realidad poliédrica. Una comunión popular que recupera el gobierno de sus propias mediaciones, donde cada familia, cada oficio y cada organización libre se hace cargo de un tramo de la muralla. Allí no impera la homogeneización técnica; no hay una inteligencia central que todo lo calcula, sino un pueblo que reconstruye, artesanalmente, su mundo común.

Tecnología conveniente

Si la Comunidad Organizada ofrece el horizonte, hace falta además un criterio práctico, y existe uno, argentino y casi olvidado. El tecnólogo Eduardo Galli formuló en los años noventa la noción de tecnología conveniente, heredera de la «tecnología apropiada» de los setenta a la que añadió una dimensión política explícita. 

En esa clave, soberanía digital no es nacionalizar cada línea de código ni fantasear con una autarquía imposible, sino asegurar que el sector público ocupe los eslabones estratégicos donde se decide. Un Estado que depende de una empresa para sus funciones básicas no puede contrariarla sin quedar a merced de que le corte el servicio de un día para otro. Ese es precisamente el triunfo ideológico de las gigantes tecnológicas, el de volver inimaginable un ecosistema digital donde el Estado no sea apenas cliente, usuario o rehén, sino conductor político de sus mediaciones esenciales.

Perón había formulado una exigencia parecida en Modelo Argentino: “el científico debe adquirir la capacidad auténtica de negarse, con convicción absoluta, a producir determinada forma de conocimiento científico-tecnológico que resulte inadecuado para el país”. En ese punto, la tesis de Galli subraya que una tecnología no se evalúa por su brillo ni por su procedencia. Puede haber sido adquirida afuera o producida localmente; lo decisivo es si atraviesa un filtro nacional, esto es, si protege el trabajo, mejora la vida concreta de la sociedad, respeta la naturaleza y fortalece capacidades propias en lugar de erosionarlas. Su reverso es la tecnología dada: la que se adopta no porque convenga sino porque «el mundo va hacia allí», porque «no podemos quedarnos atrás», porque «la innovación no espera». El FOMO  por otros medios. Es la tecnología que conviene a quien la produce y que nos restituye una dependencia revestida de servicio, de comodidad, de “futuro”.

Conviene distinguir, en este punto, la tecnología complementaria —la que eleva productividad, salarios y capacidades humanas— de la sustitutiva, que reemplaza tareas y recorta costos laborales sin elevar productividad real. Esta distinción define si el siglo XXI será rico en PBI pero pobre en comunidad. Porque el evangelio tecnoliberal da por hecho la destrucción de empleo privado y se ofrece a administrarla, y un cierto progresismo propone como antídoto la misma resignación firmada al revés: un ingreso universal que paga la cuenta del trabajo cancelado. Ambos suscriben el mismo starter pack: el futuro donde los robots producen todo y los humanos flotan entre renta básica, tiempo libro y creatividad.

La tecnología, por lo tanto, no es un destino ineludible, sino el resultado de decisiones políticas; es la obligación de la conducción nacional intervenir para orientar el rumbo y la velocidad del cambio tecnológico exclusivamente hacia la generación de buenos trabajos que ofrezcan dignidad económica y social.

Traído a la IA, el criterio se ordena en un cuestionario que nuestra conducción política nacional debería aplicar de modo más o menos permanente: a quién sirve este sistema, qué problema resuelve y cuál inaugura, qué trabajos suprime o vuelve invisibles, qué datos extrae y quién captura su valor, qué forma de comunidad fortalece y cuál disgrega. 

Desde 1810 sabemos que no toda innovación fue progreso ni toda modernización condujo a la liberación, y la aceleración del presente no hace sino tornar más apremiantes esas preguntas. Los monopolios empresariales tecnológicos intentan, por todos los medios, sofocar esos interrogantes difundiendo un único imaginario sociotécnico donde el rol de los dueños de la cartografía digital es el de ser, naturalmente, los héroes. 

Tercera posición tecnológica : el rumbo y la velocidad 

Traducida a nuestra lengua, la disyuntiva consiste en saber si delegaremos de manera definitiva el gobierno de nuestras mediaciones o si nos dispondremos a recuperarlo. El ingeniero y filósofo chino Yuk Hui llama tecnodiversidad a la posibilidad de que distintas sociedades produzcan relaciones distintas entre técnica, naturaleza, moral, comunidad y mundo. No hay una sola forma universal de habitar la técnica. Toda tecnología expresa una cosmotécnica: una articulación entre artefactos, valores, formas de vida y visiones de lo humano.

El problema, entonces, no es simplemente que la IA esté «mal regulada». El problema es que una cosmotécnica específica —corporativa, extractiva, aceleracionista, concentrada— se presenta como destino universal. Silicon Valley ofrece la versión tecnoliberal de esa promesa: plataformas privadas, subjetividades emprendedoras, mercados de datos y automatización amable. Shenzhen expresa su reverso tecnoautoritario: planificación vertical, vigilancia integrada, infraestructura estatal y obediencia algorítmica administradas por un Super Estado. Pero nosotros, lector, somos argentinos. Y la pregunta nacional no puede reducirse a elegir entre dos arquitecturas ajenas, sino a decidir bajo qué régimen de propiedad, de trabajo, de comunidad y de humanidad queremos incorporar la técnica, porque allí se juega nuestro destino antropológico.

No aguarda en ningún estante una tercera tecnología lista para comprar. Lo que cabe construir es una tercera posición tecnológica: una forma argentina de gobernar nuestras mediaciones, de ordenar políticamente capacidades, instituciones, trabajos y saberes, sin entregar la vida común ni al mercado global ni al Estado abstracto. La tecnodiversidad, leída desde nuestras napas nacionales es la posibilidad de recordar que ninguna mudanza histórica obliga a perder el rumbo. La velocidad pertenece a la época. El rumbo, todavía, debe pertenecer a nuestra comunidad .

Perón escribió que lo científico-tecnológico está en el corazón del problema de la liberación, y que sin base propia y suficiente la liberación se torna imposible. Lo pensó en 1974, cuando la dependencia se contaba en patentes y divisas; a esto hoy se le agregan se datos, nubes y modelos. El Modelo del 74, orientado por la disciplina de la prospectiva, nos legó el método para planificar y diseñar futuros posibles y deseables. Los capítulos siguen por escribirse.

Algunos ya están en marcha.

*El autor es Lic. en Sociología por la UBA, Docente, Científico de Datos y Mg. en Gestión de Datos por la UCA