Tiempo de lectura 16 minutos

Marcos Domínguez (*)- @zoncerasabiertas

Apuntes para una tecnopolítica argentina (2da parte)

“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos”, dijo Dario Amodei, CEO de Anthropic, en un ensayo denominado We Must Pace the Frontier. Propone desacelerar —no detener— mediante evaluadores externos, coordinación entre laboratorios de países democráticos y acuerdos globales verificables.

Resulta revelador que uno de los principales maquinistas del tren de la innovación tecno optimista cuestione de pronto la velocidad de un rumbo cuyas vías y destinos ya fueron trazados. Pero las ideas de Amodei no dejan de ser relevantes sólo por ser , como mínmo, cínicas. Durante décadas, cada innovación ofrecía una ganancia neta superior a sus pérdidas, acostumbrándonos a vislumbrar el progreso como el reflejo que nos devolvía la aceleración incesante. La modernidad instauró así una relación pervertida con el tiempo bajo la coerción del viejo axioma citado por Max Weber e ideado por Benjamin Franklin: Remember that time is money. El reloj de la tecnología siempre ha estado supeditado a quienes ostentan la potestad de decidir cuándo acelerar y cuándo demandarnos ralentizar la marcha.

El CEO de Anthropic está particularmente preocupado por la auto mejora recursiva: modelos que empiezan a colaborar en la programación, evaluación y diseño de la generación que habrá de sucederlos. Siguen haciendo falta progenitores humanos y fuerzas terrenales —científicos, datos, chips, energía y enormes centros de cómputo—, pero el circuito comienza a cerrarse y cada vuelta puede acortar el tiempo necesario para dar la próxima.

El giro de Amodei hacia el pacing está motivado por el temor de que ese movimiento adquiera una velocidad superior a nuestra capacidad para comprenderlo, evaluarlo y gobernarlo. Como si la IA estuviera a punto de repetir aquel famoso sinceramiento político (balbuceado por Unamuno en 1983) frente a la actual dirigencia humana: muchachos, nos cagaron, entré yo sola. No hay consenso científico definitivo sobre qué tan rápido está ocurriendo esto ni sobre hasta dónde puede llegar. Pero un observador atento como usted, lector, debe distinguir entre el temor razonable de Amodei —que dirige uno de los laboratorios de frontera y conoce las tripas de su propia industria— y una profecía verificada.

Todo lo que usted siempre quiso saber de un modelo y no se animó a promptear 

A esta altura, conviene recordar el breve glosario que desarrollamos en la primera parte de estos apuntes. En Ciencia de Datos, un modelo es una representación formal y necesariamente simplificada de una porción de la realidad. Puede describir relaciones entre variables, predecir comportamientos probables a partir de patrones históricos o, en su versión más delicada, prescribir decisiones según una función objetivo previamente definida. Modelar consiste, en definitiva, en transformar observaciones dispersas en una estructura capaz de producir inferencias. Pero ningún modelo optimiza “la realidad”. Optimiza aquello que quien lo diseñó decidió medir, ponderar, premiar o castigar. Y para hacerlo se sostiene, de manera simplificada, sobre cuatro elementos: datos, estructura, función objetivo y régimen de validez.

Los datos son siempre observaciones parciales y situadas, nunca la realidad completa; la estructura  —por ejemplo, si el modelo supone relaciones lineales, árboles de decisión o arquitecturas neuronales— determina qué relaciones podrá captar, qué patrones serán visibles y cuáles quedarán afuera ; la función objetivo establece qué debe minimizarse o maximizarse —error, costo, precisión, velocidad, rentabilidad, conversión, engagement— y esa decisión no surge de la naturaleza ni la dicta ninguna ecuación. Es técnica y, precisamente por eso, también política. El régimen de validez, por último, delimita las condiciones bajo las cuales ese modelo funciona. Un sistema entrenado sobre un mundo determinado puede desempeñarse razonablemente mientras ese mundo se mantenga reconocible en su contexto previamente aprendido y empezar a tartamudear cuando el contexto cambia. A esa capacidad de comportarse adecuadamente fuera de los datos vistos se la llama generalización. Depende, entre otras cosas, de que el futuro conserve alguna semejanza con el pasado. Difícil.

La recursividad acelera el ciclo; no neutraliza su orientación.

En Recursividad y contingencia, Yuk Hui observa que la recursividad no es una simple repetición acelerada. Un proceso recursivo vuelve sobre sí mismo, pero no retorna idéntico: incorpora el resultado de la vuelta anterior y puede reorganizarse a partir de lo que encuentra en el camino. La contingencia —el error, el desvío, lo no previsto— deja entonces de ser sólo una perturbación externa y puede convertirse en material para la siguiente iteración. Esto es clave porque la mejora recursiva puede alterar la propia secuencia mientras la estamos observando.

Entonces, aunque Amodei consiguiera ralentizar la frontera, las preguntas que en este lado del mapa tenemos que hacernos son: ¿qué función objetivo seguirá organizando el desarrollo? ¿Quién decide para qué se emplea la capacidad acumulada? ¿Qué actores conservan la infraestructura, los datos, el cómputo y el conocimiento necesarios para participar de esa recursividad y cuáles quedan convertidos en consumidores de sus resultados? .

Las sociedades siempre construyeron herramientas que extendieron sus capacidades. Lo particular de esta etapa -que no es tan distinta a otras fases del desarrollo capitalista en este punto- es que esas extensiones cambian más rápido que las instituciones creadas para gobernarlas, con los riesgos de cierta anomia que esto conlleva. El trabajo, la información, el crédito, el consumo y ahora la producción de conocimiento se están reorganizando en una dimensión de orden transaccional, y mucho más rápido que sindicatos, universidades, partidos o Estados. Parte de aquello que llamamos crisis de representación nace también de ese desajuste entre la velocidad de las transformaciones que impulsa la tecnología en la morfología social y la capacidad de las mediaciones sociales para incorporarlas, regularlas y darles un sentido colectivo.

Especificar 

Me interesa señalar que hay una dificultad anterior a cualquier discusión sobre alineamiento: especificar. En machine learning no alcanza con “querer” que un sistema haga algo. Nuestra intención —ganar una carrera, reconocer un objeto, recomendar una política, detectar un fraude— debe traducirse a variables, ejemplos, restricciones y muchas veces a una función de recompensa. El prompt es apenas una capa visible; debajo están los datos, la métrica y las condiciones que fijamos para considerar que una respuesta es buena. Entre “lo que quiero” y “lo que pude formalizar” queda una distancia. El problema del alineamiento empieza ahí.

Para ejemplificar no seré original e iré a un 4-4-2 bien pedagógico. El Rey Midas funciona casi como un manual anticipado de especificación defectuosa. Guiado por la animalidad de sus deseos pide que todo lo que toque se convierta en oro y recibe exactamente eso, incluso cuando el resultado destruye aquello que quería preservar. El genio no desobedece; ejecuta literalmente una formulación incapaz de contener la intención completa. En términos computacionales, el deseo estaba mal especificado. El problema de Midas no es un ejecutor rebelde, sino uno demasiado obediente que con oportuno duhaldismo lo mira de frente y le dice: el que depositó optimización recibirá optimización.

Enjambres

Sentencias como “el modelo decidió”, “el sistema recomendó”, “la IA concluyó” son síntomas de lo que Eric Sadin identifica como una progresiva desposesión de nosotros mismos. El problema aparece cuando la descarga de trabajo sobre artefactos se desplaza desde la tarea hacia el criterio y borra de escena al sujeto que efectivamente tomó una decisión.

Un ser humano puede aburrirse, dudar o negarse; un optimizador puede repetir millones de iteraciones persiguiendo la función que le dimos. Puede obedecer ¡demasiado bien! Lo que cambia cuando aumentan las capacidades no es necesariamente la lógica del error sino su radio de acción. Una aplanadora tampoco necesita odiar a nadie para aplastarlo.

Hay algo más en la imagen del enjambre: muchas unidades pueden coordinarse con enorme eficacia alrededor de una misma métrica. ¿Qué ocurre cuando instituciones humanas empiezan a organizarse así, sin deliberar con la misma intensidad sobre sus fines? ¿Quién se alinea a quién? Flavia Costa llama accidentes “normales” a las fallas propias de sistemas complejos, acelerados y acoplados cuyas interacciones no pueden anticiparse por completo. La seguridad necesita entonces trazabilidad, límites operativos y capacidad institucional para detener el sistema cuando la cadena de mediaciones se vuelve opaca.

A esta altura conviene ordenar el problema con tres verbos: especificar, verificar y corregir. El pacing puede comprar tiempo para hacer las tres cosas. Lo que no revisa por sí mismo es la función objetivo política del sistema, la concentración de infraestructura, el régimen de propiedad ni la subordinación de quienes no controlan la frontera.

Qué puede un Estado 

Amodei reconoce que la sociedad debe tener voz sobre el uso de esta tecnología y que el pacing debería abrir tiempo para la deliberación pública. Pero Amodei sabe que deliberar cuando la arquitectura ya está construida, los proveedores elegidos y los criterios de optimización incorporados es como llamar a una asamblea de consorcio cuando el edificio ya fue vendido con nosotros adentro.

Cada plataforma organiza una manera de mirar el mundo; cada modelo jerarquiza variables, relaciones y objetivos; cada algoritmo convierte algunos comportamientos en señales y otros en outliers. Por eso la discusión no puede reducirse al uso. También hay política en la arquitectura: importar sistemas de decisión supone importar, en alguna medida, los supuestos de quienes los diseñaron. En la primera parte llamé, inspirado en Yuk Hui, paradigma monotecnológico a la pretensión de presentar como universal una forma específica de organizar la técnica y la vida común.

Por eso tampoco alcanza con suponer que las soluciones pasan simplemente por regular más, instinto siempre presente en la líbido legalista de muchos que entienden poco y nada de lo que se juega. Una regulación puede mejorar un sistema cuando su arquitectura y su función social ya fueron decididas. Es una vieja capacidad del capitalismo: metabolizar parte de sus críticas hasta convertirlas en problemas de procedimiento sin discutir los fines.

A esta altura, y para nuestra total tranquilidad ciudadana, lector, recordemos que en enero de 2026 Federico Sturzenegger dijo en Davos que su “única tarea es que no aparezca ninguna ley de inteligencia artificial”. Tres meses después anunció una reforma de la Ley de Sociedades para habilitar empresas gestionadas íntegramente por agentes de inteligencia artificial. Uno no sabe si admirar la sinceridad o temer la eficacia de este verdadero T-1000 neoliberal que hoy es ministro de Desregulación y Transformación del Estado. Probablemente las dos cosas, y al mismo tiempo, que es como se vive en este país desde hace un tiempo largo.

La única política

Como tipos ideales, hay tres modelos: el estadounidense, organizado alrededor del poder privado de sus corporaciones; el chino, sostenido por el aparato estatal y su capacidad infraestructural; y el europeo, apoyado en los derechos y el poder regulatorio. “EE.UU. inventa, China copia y Europa regula” es efectista, pero corto: los Estados compiten por extender reglas e infraestructuras mientras negocian, disciplinan y dependen de las compañías que necesitan para proyectar poder. Y cuando una capacidad se vuelve estratégica, aquello que se descalificaba como planificación reaparece con un elegante paso de ballet.

En China, Anu Bradford recuerda en Imperios digitales cientos de millones de cámaras capaces de cruzar imágenes con datos personales; ocho de las diez ciudades más vigiladas del mundo estaban allí cuando escribió el libro. No hace falta inventarle omnipotencia al Estado chino para discutir su autoritarismo. En el gigante asiático, cuando colisionan plataforma y Estado la jerarquía se evidencia rapidísimo. Y como decía Napoleón, un ejemplo suele explicarlo todo: en 2020 Beijing suspendió la salida a bolsa de Ant Group, que aspiraba a recaudar 37.000 millones de dólares. Jack Ma descubrió por las malas que un multimillonario puede tener muchísimo poder hasta el día en que se encuentra con alguien que tiene soberanía.

En California, Amazon, Apple, Google, Meta y Microsoft adquirieron 770 startups en tres décadas bajo una aplicación antimonopólica extraordinariamente permisiva, y Estados Unidos seguía sin una ley federal integral de privacidad.

Para los países periféricos, esas estrategias se superponen: el poder privado estadounidense entra por plataformas, nubes y proveedores; el chino, por infraestructura; el europeo, por regulaciones y estándares. Usar la infraestructura de uno, contratar los servicios de otro, copiar las normas de un tercero y no construir en el medio absolutamente nada propio.

Es en ese mapa donde Amodei puede leerse con mayor precisión. Su propuesta nace en un laboratorio estadounidense y en una competencia donde la ventaja frente a China ocupa un lugar explícito. Nadie lo espera bajando de Sierra Maestra, claro. Amodei se concentra sobre todo en ritmo y seguridad; nosotros debemos agregar dirección política, propiedad, distribución internacional de capacidades y fines sociales. Antes de preguntar si un modelo está alineado con sus desarrolladores, una sociedad tiene derecho a preguntar con qué proyecto social, productivo y nacional está alineado el sistema sociotécnico completo.

Florecerán mil especialistas

Como señala Flavia Costa en Vidas artificiales, buena parte de los actores con peso social no saben que no saben —y no saben qué no saben—. Las nuevas tecnologías van por ascensor mientras las herramientas para gobernarlas suben por escalera. Todos sabemos que en algún reducto estatal, sindical, o de otro tipo  hay alguien a cargo de “el tema de la IA”: quizás porque manejó una cuenta de Twitter con cierta gracia. Transitamos una época que habilita que las responsabilifades y hasta los cargos ese diseñan más rápido que las competencias. Es así como los motes de “especialista en IA” que alimentan los cartelitos de expositores en los recurrentes paneles , foros, y “conversatorios” aparecen antes incluso de que podamos entender un poco de qué hablamos. Y esto es un problema que se agrava para volverse casi una tradición nacional. Ampliemos.

Mariana Heredia recuerda en ¿El 99% contra el 1%? la respuesta de un jefe político a un estudiante que preguntó qué debía profundizar para aportar mejor desde el Estado: “para mandar no hace falta ningún conocimiento específico”, recibió como respuesta de su jefe. La frase expresa una cultura de conducción que cimentada en un error sostenido que ha roto en principio de autoridad dentro de muchas áreas de trabajo. No hace falta convertir a cada ministro en ingeniero o científico de datos, pero sí construir dentro del Estado políticas de atracción y retención de talento que acumulen el conocimiento suficiente para darle seriedad operativa a las inciviativad y también para dialogar con  proveedores (en general monopolios extranjeros) en su propio idioma

Gobernar es crear gobierno de datos
No hace falta invocar conspiraciones ni sótanos oscuros. Una firma que promete integrar información y ofrecer arquitecturas de decisión no necesita ganar una elección. Puesto menor. Le alcanza con instalar un stack. Quien trabaja en gobierno de datos conoce la diferencia entre almacenar y gobernar: que una base esté en territorio nacional o que un contrato declare que los datos “pertenecen” al Estado no garantiza soberanía. Es por esto que implementar IA exige salir del FOMO ingenuo para pasar a gobernar su primera materia, los datos, con curaduría, calidad, linaje, trazabilidad, auditoría y responsabilidades. Sin ese andamiaje institucional, el alineamiento técnico más perfecto se derrumba en el primer contexto operativo real. El asfalto para la IA son los datos de calidad.

La soberanía tecnológica depende de cuántas capas efectivamente controlamos: datos, licencias, infraestructura, cómputo, dependencias de software, personal técnico, estándares. Incluso enfoques favorables al autoalojamiento reconocen que la cuestión es el control combinado de modelo, dato e infraestructura, no el tamaño del modelo.

Por eso es importante no confundir autonomía operativa con soberanía política. Correr un modelo abierto en un servidor propio puede aumentar muchísimo la autonomía; pero si las GPU son importadas, el modelo fue entrenado afuera, la arquitectura la definió otro, dependemos de repositorios externos, no podemos auditar toda la cadena y no tenémos capacidad estatal para decidir cuándo migrar, corregir o prescindir de esa tecnología.

Comprendo perfectamente cierta tentación localde resolver la soberanía achicando el modelo. El razonamiento en el que esto se funda es que si no podemos competir con los gigantes de frontera, corramos modelos pequeños, abiertos, entrenados con nuestros corpus y alojados en nuestra infraestructura. Todo eso puede ser técnicamente sensato, pero un modelo no es soberano porque entre en un servidor de ARSAT. La soberanía empieza cuando podemos auditarlo, modificarlo, migrarlo, apagarlo y, sobre todo, decidir para qué existe.  Perón tampoco llamaba independencia económica a comprar una máquina extranjera y pintarla de celeste y blanco. Un modelo chico puede ser una buena política tecnológica. Una soberanía chica sigue siendo una soberanía chica.

Concretamente, tenemos que gobernar los datos antes que discutir modelos; construir capacidad estatal para comprar, auditar y evaluar; sostener cuadros técnicos y un sistema científico articulado con la estructura productiva; exigir estándares abiertos, interoperabilidad y alternativas al proveedor único. Todas estas tareas son más urgentes que discutir pacing con Amodei. Ninguna exige encerrarnos en un provincialismo autosuficiente. Vamos a seguir usando modelos entrenados afuera e infraestructura que no construimos. La cuestión no es la autarquía sino la soberanía. Porque para “escalar” la dependencia, lector, conviene no escalar.

El famoso “botón rojo” o rollback  es nada más y nada menos que conservar capacidad efectiva de intervención: detener el sistema, revocar permisos, volver a una versión anterior, cambiar de proveedor o restaurar una decisión. Si un Estado no puede negarse a un proveedor, a una caja negra, a un estándar cerrado o a una automatización que daña el trabajo, no tiene política tecnológica: tiene, con suerte, un departamento de compras.

Insisto en llamar tercera posición tecnológica a una forma argentina de gobernar nuestras mediaciones sin reducir la elección a Silicon Valley o Shenzhen. Porque podemos incorporar tecnología estadounidense, infraestructura china o criterios regulatorios europeos sin importar como paquete cerrado ninguna de sus funciones objetivo. Copiar una regulación sin capacidades propias puede dejarnos tan dependientes como comprar una caja negra. Y para sortear la discusión de moda sobre el tamaño del Estado, es más útil revisar qué capacidades necesita conservar para no volverse un mero comprador de artefactos. Capacidades que deben sobrevivir al entusiasmo de un gobierno y al abandono del siguiente.

No hacen falta los clásicos intentos refundadores del tipo “tendremos una IA argentina”. Es más importante decidir qué capacidades no estamos dispuestos a perder. Antes de automatizar decisiones, definir quién responde; antes de contratar una plataforma, saber cuánto cuesta abandonarla. Especificar, verificar, corregir. No se trata de romper la máquina ni de añorar un mundo sin técnica. La agencia que interesa acá tampoco es la libertad abstracta de un individuo frente a una pantalla, sino la capacidad colectiva de trabajadores, organizaciones y Estado para intervenir sobre las condiciones de adopción, sostener alternativas e interrumpir el automatismo. Ejercitar el NO es la única posibilidad de enfrentar la fiebre del AI first: «pruebe inteligencia artificial antes de preguntarse si hace falta».

*El autor es Lic. en Sociología por la UBA, Docente, Científico de Datos y Mg. en Gestión de Datos por la UCA