Tiempo de lectura 17 minutos

Marcos Domínguez (*)- @zoncerasabiertas

Apuntes para una tecnopolítica argentina (2da parte)

Es sábado 12 de septiembre de 2026 y en San Francisco todavía son las siete de la mañana. No sabemos si Dario Amodei ya tomó café, si desayuna otra cosa ni cuánto participó alguna inteligencia artificial en la escritura. Lo que sí sabemos es que a las 7:01 anuncia que acaba de publicar un ensayo titulado We Must Pace the Frontier: “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA», dijo allí el CEO de Anthropic. Propone desacelerar —no detener— mediante evaluadores externos, coordinación entre laboratorios de países democráticos y acuerdos globales verificables.

Resulta revelador que uno de los principales maquinistas del tren de la innovación tecno optimista cuestione de pronto la velocidad de un rumbo cuyas vías y destinos ya fueron trazados. Pero las ideas de Amodei no dejan de ser relevantes sólo por ser , como mínmo, cínicas. Durante décadas, cada innovación ofrecía una ganancia neta superior a sus pérdidas, acostumbrándonos a vislumbrar el progreso como el reflejo que nos devolvía la aceleración incesante. La modernidad instauró así una relación pervertida con el tiempo bajo la coerción del viejo axioma citado por Max Weber e ideado por Benjamin Franklin: Remember that time is money. El reloj de la tecnología siempre ha estado supeditado a quienes ostentan la potestad de decidir cuándo acelerar y cuándo demandarnos ralentizar la marcha.

El CEO de Anthropic está particularmente preocupado por la auto mejora recursiva: modelos que empiezan a colaborar en la programación, evaluación y diseño de la generación que habrá de sucederlos. Siguen haciendo falta progenitores humanos y fuerzas terrenales —científicos, datos, chips, energía y enormes centros de cómputo—, pero el circuito comienza a cerrarse y cada vuelta puede acortar el tiempo necesario para dar la próxima.

El giro de Amodei hacia el pacing está motivado por el temor de que ese movimiento adquiera una velocidad superior a nuestra capacidad para comprenderlo, evaluarlo y gobernarlo. Como si la IA estuviera a punto de repetir aquel famoso sinceramiento político (balbuceado por Unamuno en 1983) frente a la actual dirigencia humana: «nos cagaron muchachos,  entré yo sola». No hay consenso científico definitivo sobre qué tan rápido está ocurriendo esto ni sobre hasta dónde puede llegar. Pero un observador atento como usted, lector, debe distinguir entre el temor razonable de Amodei —que dirige uno de los laboratorios de frontera y conoce las tripas de su propia industria— y una profecía verificada. Ampliemos.

Todo lo que usted siempre quiso saber de un modelo y no se animó a promptear 

A esta altura, conviene recordar el breve glosario que desarrollamos en la primera parte de estos apuntes. En Ciencia de Datos, un modelo es una representación formal y necesariamente simplificada de una porción de la realidad. Puede describir relaciones entre variables, predecir comportamientos probables a partir de patrones históricos o, en su versión más delicada, prescribir decisiones según una función objetivo previamente definida. Modelar consiste, en definitiva, en transformar observaciones dispersas en una estructura capaz de producir inferencias. Pero ningún modelo optimiza “la realidad”. Optimiza aquello que quien lo diseñó decidió medir, ponderar, premiar o castigar. Y para hacerlo se sostiene, de manera simplificada, sobre cuatro elementos: datos, estructura, función objetivo y régimen de validez.

Los datos son siempre observaciones parciales y situadas, nunca la realidad completa; la estructura  —por ejemplo, si el modelo supone relaciones lineales, árboles de decisión o arquitecturas neuronales— determina qué relaciones podrá captar, qué patrones serán visibles y cuáles quedarán afuera ; la función objetivo establece qué debe minimizarse o maximizarse —error, costo, precisión, velocidad, rentabilidad, conversión, engagement— y esa decisión no surge de la naturaleza ni la dicta ninguna ecuación. Es técnica y, precisamente por eso, también política. El régimen de validez, por último, delimita las condiciones bajo las cuales ese modelo funciona. Un sistema entrenado sobre un mundo determinado puede desempeñarse razonablemente mientras ese mundo se mantenga reconocible en su contexto previamente aprendido y empezar a tartamudear cuando el contexto cambia. A esa capacidad de comportarse adecuadamente fuera de los datos vistos se la llama generalización. Depende, entre otras cosas, de que el futuro conserve alguna semejanza con el pasado. Difícil.

Todo lo anterior empieza a tornarse vertiginoso cuando el proceso se vuelve recursivo.

En Recursividad y contingencia, Yuk Hui observa que la recursividad no es una simple repetición acelerada. Un proceso recursivo vuelve sobre sí mismo, pero no retorna idéntico: incorpora el resultado de la vuelta anterior y puede reorganizarse a partir de lo que encuentra en el camino. La contingencia —el error, el desvío, lo no previsto— deja entonces de ser sólo una perturbación externa y puede convertirse en material para la siguiente iteración. Esto es clave porque la mejora recursiva puede alterar la propia secuencia mientras la estamos observando.

Entonces, que un sistema pueda aprender de sus propios resultados, corregirse o participar cada vez más de la construcción de la vuelta siguiente no significa que haya adquirido por generación espontánea mejores fines. Puede mejorar extraordinariamente su capacidad para perseguir un objetivo sin que ese objetivo se vuelva por eso más razonable. La pregunta sigue siendo la misma, sólo que ahora corre más rápido: ¿qué estamos optimizando y quién decidió que eso era lo que había que optimizar?. Conocer las visceras de los sistemas es tan importante como evaluar sus resultados. 

Alineamiento

Me interesa señalar que hay una dificultad anterior a cualquier discusión sobre alineamiento: especificar. En machine learning no alcanza con “querer” que un sistema haga algo. Nuestra intención —ganar una carrera, reconocer un objeto, recomendar una política, detectar un fraude— debe traducirse a variables, ejemplos, restricciones y muchas veces a una función de recompensa. El prompt es apenas una capa visible; debajo están los datos, la métrica y las condiciones que fijamos para considerar que una respuesta es buena. Entre “lo que quiero” y “lo que pude formalizar” queda una distancia. El problema del alineamiento empieza ahí.

El caso del Rey Midas funciona como un ejemplo especificación defectuosa. Guiado por la animalidad de sus deseos pide que todo lo que toque se convierta en oro y recibe exactamente eso, incluso cuando el resultado destruye aquello que quería preservar. El genio no desobedece; ejecuta literalmente una formulación incapaz de contener la intención completa. En términos computacionales, el deseo estaba mal especificado. El problema de Midas no es un ejecutor rebelde, sino uno demasiado obediente que con oportuno duhaldismo lo mira de frente y le dice: el que depositó optimización recibirá optimización.

Goodhart, en una sintonía similar pero económica, señalaba que apenas una medida de política se convierte en objetivo, deja de ser una buena medida. En la jerga actual de la seguridad en IA, esa ley tiene el nombre de specification gaming;el sistema encuentra una estrategia que aumenta la recompensa o satisface el indicador sin realizar aquello que el diseñador tenía realmente en mente. Midas fue, sin saberlo, la primera víctima documentada de esa ley.

Enjambres

A medida que aumenta la escala, surge un escenario que preocupa a Amodei: la emergencia de sistemas multiagente capaces de operar, intercambiar información y coordinarse de manera autónoma persiguiendo un fin común. En este punto, la cuestión central ya no radica únicamente en la función de optimización de un modelo aislado, sino en las dinámicas que se desatan cuando múltiples entidades optimizan simultáneamente en la misma dirección.

A diferencia de las personas, que pueden experimentar fatiga, vacilaciones o disentir, un sistema optimizador es capaz de ejecutar millones de iteraciones para cumplir rigurosamente con la función asignada. Su riesgo estriba en una obediencia ciega y perfecta: la evolución de sus capacidades no altera necesariamente la naturaleza del fallo, sino que amplifica masivamente su alcance. Del mismo modo que una aplanadora no requiere albergar hostilidad para arrasar con lo que encuentra a su paso, estos sistemas tampoco la necesitan.

El concepto de enjambre alude precisamente a esta articulación hipereficaz de múltiples unidades en torno a un objetivo unívoco. Esto plantea un dilema fundamental cuando las propias instituciones humanas adoptan dicha estructura operativa sin detenerse a examinar sus propósitos: ¿quién termina alineando a quién? En este marco, Flavia Costa conceptualiza como “accidentes normales” a aquellas fallas inherentes a entornos acoplados, acelerados y de alta complejidad cuyas interacciones resultan imposibles de prever de forma exhaustiva. Para contrarrestar esta opacidad en la cadena de mediaciones, la seguridad exige establecer trazabilidad, fijar límites de actuación y garantizar la capacidad institucional para interrumpir la marcha del sistema.

Frente a esta coyuntura, la resolución del problema exige estructurar la respuesta en tres ejes conceptuales: especificar, verificar y corregir. Si bien el pacing permite ganar margen temporal para implementar estos pasos, por sí solo no cuestiona la orientación política subyacente del sistema, la alta concentración de infraestructura, las dinámicas de propiedad ni la postergación de quienes no inciden en la frontera tecnológica.

Qué puede un Estado 

Amodei reconoce que la sociedad debe tener voz sobre el uso de esta tecnología y que el pacing debería abrir tiempo para la deliberación pública. Pero Amodei sabe que deliberar cuando la arquitectura ya está construida, los proveedores elegidos y los criterios de optimización incorporados es como llamar a una asamblea de consorcio cuando el edificio ya fue vendido con nosotros adentro.

Cada plataforma organiza una manera de mirar el mundo; cada modelo jerarquiza variables, relaciones y objetivos; cada algoritmo convierte algunos comportamientos en señales y otros en outliers. Por eso la discusión no puede reducirse al uso. También hay política en la arquitectura, en tanto importar sistemas de decisión supone importar, en alguna medida, los supuestos de quienes los diseñaron. Se trata de un aplanamiento donde la propia opinión ya no sólo circula en máquinas, sino que es diseñada por ellas. Lo que Yuk Hui denomina paradigma monotecnológico es, en este sentido, la pretensión de presentar como universal una forma específica de organizar la técnica y la vida común.

Por eso tampoco alcanza con suponer que las soluciones pasan simplemente por regular más, instinto siempre presente en la líbido legalista de muchos que entienden poco y nada de lo que se juega. Una regulación puede mejorar un sistema cuando su arquitectura y su función social ya fueron decididas. Es una vieja capacidad del capitalismo: metabolizar parte de sus críticas hasta convertirlas en problemas de procedimiento sin discutir los fines.

A esta altura, y para nuestra total tranquilidad ciudadana, lector, recordemos que en enero de 2026 Federico Sturzenegger dijo en Davos que su “única tarea es que no aparezca ninguna ley de inteligencia artificial”. Tres meses después anunció una reforma de la Ley de Sociedades para habilitar empresas gestionadas íntegramente por agentes de inteligencia artificial. Uno no sabe si admirar la sinceridad o temer la eficacia de este verdadero T-1000 neoliberal que hoy es ministro de Desregulación y Transformación del Estado. El péndulo argentino entre regular todo y no regular nada hoy se encuentra en este último extremo.

La única política

Como tipos ideales, Anu Bradford distingue en Imperios digitales tres grandes modelos: el estadounidense, organizado alrededor del poder privado de sus corporaciones; el chino, sostenido por el aparato estatal y su capacidad infraestructural; y el europeo, apoyado en los derechos y el poder regulatorio. La fórmula “Estados Unidos inventa, China copia y Europa regula” es efectista, pero corta. No son tres mundos estancos sino tres formas distintas de organizar poder digital y proyectarlo hacia afuera. Los Estados compiten por extender empresas, infraestructuras, normas y estándares mientras, puertas adentro, negocian, disciplinan y también dependen de las compañías que necesitan para sostener esa competencia.

En China las Big Tech pueden acumular una capacidad económica extraordinaria, pero cuando colisionan con el Estado queda claro quién conserva la última palabra. Y como decía Napoleón, a veces un ejemplo lo explica todo: en 2020 Beijing suspendió la salida a bolsa de Ant Group, que aspiraba a convertirse en la mayor oferta pública inicial de la historia, por unos 37.000 millones de dólares.

Estados Unidos construyó otro equilibrio. Amazon, Apple, Google, Meta y Microsoft adquirieron, según Bradford, unas 770 startups durante tres décadas de aplicación antimonopólica extremadamente permisiva, mientras el país seguía sin contar con una ley federal integral de privacidad. Pero sería un error leer esto simplemente como retirada estatal. Es otra distribución del poder donde las corporaciones concentran infraestructura, datos, mercados y capacidades tecnológicas que después el propio Estado necesita para competir globalmente. China subordina con mucha mayor claridad a sus campeones tecnológicos; Estados Unidos produjo campeones tecnológicos cuya magnitud les permite negociar con el poder público desde una posición extraordinariamente fuerte.

Para los países periféricos, además, esos modelos no llegan por separado. Se superponen. El poder estadounidense entra por las plataformas, la nube, los modelos y los proveedores; el chino puede hacerlo mediante telecomunicaciones e infraestructura; el europeo, mediante regulaciones y estándares que desbordan sus propias fronteras. Podemos terminar usando la infraestructura de uno, contratando los servicios de otro y copiando las normas de un tercero.

Es en ese mapa donde la  propuesta de Amodei puede leerse dentro de una competencia tecnológica en la que la ventaja frente a China ocupa un lugar explícito.

Especialistas

Como señala Flavia Costa en Vidas artificiales, buena parte de los actores con peso social no saben que no saben —y no saben qué no saben—. Las nuevas tecnologías van por ascensor mientras las herramientas para gobernarlas suben por escalera. Todos sabemos que en algún reducto estatal, sindical, o de otro tipo  hay alguien a cargo de “el tema de la IA”: quizás porque manejó una cuenta de Twitter con cierta gracia. Transitamos una época que habilita que las responsabilidades y cargos se diseñen más rápido que las competencias para ocuparlos.

Mariana Heredia nos ayuda a ampliar la mirada de este problema, cuando recuerda en ¿El 99% contra el 1%? la respuesta que le dió un jefe político a un estudiante que preguntó qué debía profundizar para aportar mejor desde el Estado: “para mandar no hace falta ningún conocimiento específico”, le dijo. La frase expresa una cultura de conducción cimentada en un error sostenido que ha roto en principio de autoridad dentro de muchas áreas de trabajo. En este sentido, quiero señalar que para «el tema de la IA» no hace falta convertir a cada ministro en ingeniero o científico de datos, pero sí construir dentro del Estado políticas de atracción y retención de talento que acumulen el conocimiento suficiente para darle seriedad operativa a las inciviativad y también para dialogar con  proveedores (en general monopolios extranjeros) en su propio idioma.

Gobernar es crear gobierno de datos

No hace falta invocar conspiraciones ni sótanos oscuros. Una firma que promete integrar información y ofrecer arquitecturas de decisión no necesita ganar una elección. Puesto menor. Le alcanza con instalar un stack. Quien trabaja en gobierno de datos conoce la diferencia entre almacenar y gobernar: que una base esté en territorio nacional o que un contrato declare que los datos “pertenecen” al Estado no garantiza soberanía. Es por esto que implementar (bien) IA requiere procesos rigurosos de curaduría y gobernanza de datos que, al igual que el petróleo, requieren refinamiento. Pero además reglas de linaje, calidad y trazabilidad para ser interoperables. Sin ese andamiaje institucional, el alineamiento técnico más perfecto se derrumba en el primer contexto operativo real. La arcilla para la IA son los datos de calidad, pero tambien los humanos capacitados para conducir su implementación.

La soberanía tecnológica depende de cuántas capas efectivamente controlamos: datos, licencias, infraestructura, cómputo, dependencias de software, personal técnico, estándares. Incluso enfoques favorables al autoalojamiento reconocen que la cuestión es el control combinado de modelo, dato e infraestructura, no el tamaño del modelo.

Argentina tiene una ventaja competitiva: la energía. El cómputo de frontera es, en todo tiempo y en todo lugar, un problema energético;  los países que hoy compiten por alojar centros de datos lo hacen menos por su talento en software que por su capacidad de generar electricidad barata y estable. Vaca Muerta le da a la Argentina una carta que pocos países en desarrollo tienen sobre la mesa. Jugarla bien —exigiendo a cambio transferencia tecnológica, empleo calificado y gobierno efectivo sobre esos centros, no apenas la promesa de inversión— es la diferencia entre negociar con vocación de potencia energética y regalar el suelo dos veces.

Por eso es importante no confundir autonomía operativa con soberanía política. Correr un modelo abierto en un servidor propio puede aumentar muchísimo la autonomía; pero si las GPU son importadas, el modelo fue entrenado afuera, la arquitectura la definió otro, dependemos de repositorios externos, no podemos auditar toda la cadena y no tenémos capacidad estatal para decidir cuándo migrar, corregir o prescindir de esa tecnología. El reverso de esta sumisión es desarrollar la capacidad nacional para distinguir entre tecnología dada y tecnología conveniente.

Comprendo perfectamente cierta tentación localde resolver la soberanía achicando el modelo. El razonamiento en el que esto se funda es que si no podemos competir con los gigantes de frontera, corramos modelos pequeños, abiertos, entrenados con nuestros corpus y alojados en nuestra infraestructura. Todo eso puede ser técnicamente sensato, pero un modelo no es soberano porque entre en un servidor de ARSAT. La soberanía empieza cuando podemos auditarlo, modificarlo, migrarlo, apagarlo y, sobre todo, decidir para qué existe.  Perón tampoco llamaba independencia económica a comprar una máquina extranjera y pintarla de celeste y blanco. Un modelo chico puede ser una buena política tecnológica. Una soberanía chica sigue siendo una soberanía chica.

Concretamente, tenemos que gobernar los datos antes que discutir modelos; construir capacidad estatal para comprar, auditar y evaluar; sostener cuadros técnicos y un sistema científico articulado con la estructura productiva; exigir estándares abiertos, interoperabilidad y alternativas al proveedor único. Todas estas tareas son más urgentes que discutir pacing con Amodei. Ninguna exige encerrarnos en un provincialismo autosuficiente. Vamos a seguir usando modelos entrenados afuera e infraestructura que no construimos. La cuestión no es la autarquía sino la soberanía. Porque para “escalar” la dependencia, lector, conviene no escalar.

El famoso “botón rojo” o rollback  es nada más y nada menos que conservar capacidad efectiva de intervención: detener el sistema, revocar permisos, volver a una versión anterior, cambiar de proveedor o restaurar una decisión. Si un Estado no puede negarse a un proveedor, a una caja negra, a un estándar cerrado o a una automatización que daña el trabajo, no tiene política tecnológica: tiene, con suerte, un departamento de compras.

Insisto en llamar tercera posición tecnológica a una forma argentina de gobernar nuestras mediaciones sin reducir la elección a Silicon Valley o Shenzhen. Porque podemos incorporar tecnología estadounidense, infraestructura china o criterios regulatorios europeos sin importar como paquete cerrado ninguna de sus funciones objetivo. Copiar una regulación sin capacidades propias puede dejarnos tan dependientes como comprar una caja negra. Y para sortear la discusión de moda sobre el tamaño del Estado, es más útil revisar qué capacidades necesita conservar para no volverse un mero comprador de artefactos. Capacidades que deben sobrevivir al entusiasmo de un gobierno y al abandono del siguiente.

No hacen falta los clásicos intentos refundadores del tipo “tendremos una IA argentina”. En un mundo como el actual es más importante decidir qué capacidades no estamos dispuestos a perder. Antes de automatizar decisiones, definir quién responde; antes de contratar una plataforma, saber cuánto cuesta abandonarla. Especificar, verificar, corregir. No se trata de romper la máquina ni de añorar un mundo sin técnica. La agencia que interesa acá tampoco es la libertad abstracta de un individuo frente a una pantalla, sino la capacidad colectiva de trabajadores, organizaciones y Estado para intervenir sobre las condiciones de adopción, sostener alternativas e interrumpir el automatismo. Ejercitar el NO es la única posibilidad de enfrentar la fiebre del AI first: «pruebe inteligencia artificial antes de preguntarse si hace falta».

*El autor es Lic. en Sociología por la UBA, Docente, Científico de Datos y Mg. en Gestión de Datos por la UCA