Tiempo de lectura 6 minutos
Marcos Domínguez- @zoncerasabiertas
Abro esta reseña de MANIAC, de Benjamin Labatut, por donde conviene abrirla. Este no es un libro de ciencia; es un libro sobre obediencia.
MANIAC se mueve como una novela en tres actos, pero no pierde nunca el pulso de la tragedia. Arranca con Paul Ehrenfest, uno de los grandes físicos teóricos de comienzos del siglo XX, brillante y quebrado, capaz de intuir antes que otros el descalce espiritual que traía la nueva ciencia; sigue con John von Neumann, matemático total, arquitecto de la computación moderna y pieza decisiva en el pasaje que va de la física cuántica a la bomba atómica; y desemboca, décadas después, en el duelo entre Lee Sedol y AlphaGo, ente lo artesanal/humano y lo maquínico.El texto utiliza ese enfrentamiento ecomo anclaje contemporáneo y ejemplo práctico de la inteligencia artificial superando lo «humano» o «intuitivo».
En 2016 Lee Sedol, uno de los jugadores de Go más grandes de la historia compitió con AlphaGo, un programa de inteligencia artificial desarrollado por Google DeepMind, que logró arrebatarle la victoria en una serie de partidas. El Go es un juego de tablero milenario, originado en Asia, probablemente el más antiguo que todavía se practica de forma competitiva. Se juega con piedras blancas y negras sobre un tablero cuadriculado, y el objetivo no es “matar al rey” como en el ajedrez, sino rodear territorio y controlar espacio, capturando grupos enemigos cuando quedan sin libertades.
A diferencia del ajedrez, donde cada pieza tiene un valor claro y movimientos definidos, en el Go todas las piedras valen lo mismo. Su valor depende por completo de dónde están, de cómo se conectan entre sí, de los vacíos que las rodean y del equilibrio global del tablero. Eso obliga a pensar el juego de manera holística, casi orgánica: hay grupos “vivos”, “muertos”, “inquietos”; hay patrones, intuición, sacrificios, armonías, invasiones. No alcanza con calcular. Se requiere una sensibilidad estratégica que, por siglos, se ha considerado más próxima al arte que a la lógica formal. Esta visión de conjunto, que exige juicio e intuición, lo hacía el último bastión de lo humano frente al cálculo puro.
MANIAC (Mathematical Analyzer, Numerical Integrator, and Computer) traza las raíces de esa inteligencia maquínica y las convierte en una pregunta sobre obediencia, fe en la lógica y deseo de delegación. El recorrido histórico del libro es atravesado, como un rayo, por el instante en que la física patea la puerta de la incertidumbre humana. Un quiebre que funciona como eje del libro:
“(…)Un estancamiento, incluso una degeneración: «¡Esas terribles abstracciones! ¡Ese foco incesante en trucos y técnicas! ¡Esa peste matemática que erradica todos los poderes de nuestra imaginación!», clamaba amargamente ante sus alumnos en la Universidad de Leiden. El nuevo espíritu que animaba la física teórica era totalmente contrario al suyo: el contacto con la realidad concreta de las cosas estaba siendo reemplazado por la fuerza bruta de la artillería matemática, y las fórmulas abstractas habían tomado el lugar de los átomos, las fuerzas y los campos…”
¿Nos estamos volviendo adictos a una herramienta que dejó de serlo hace rato y mutó en una especie de régimen “optimizador”? El vértigo de nuestro presente es que el mundo termine gobernado por una lógica tan elegante que no necesita explicaciones.
Ehrenfest es el hombre que “la ve”; ve venir un descalce espiritual. Una tranquera se abre. Y aparecen los temblores psíquicos que cualquier lector que haya atravesado películas como Matrix o Terminator, ya sintió. La razón se emancipa, actuando como una maquinaria independiente que demanda sustento humano:
«La razón hoy está desvinculada de los aspectos más profundos y fundamentales de nuestra psique, y temo que nos arrastrará hacia delante por el hocico, como a una mula borracha. Sé que lo ves tan claro como yo, pero la mayor parte del tiempo me siento solo, como si fuese el único ser humano capaz de dar testimonio sobre cuán bajo hemos caído. Estamos de rodillas, rezando al dios equivocado, una deidad infantil y cruel que se esconde en medio de un mundo corrupto que no puede gobernar ni comprender. ¿O es que lo hemos creado, a nuestra repugnante imagen y semejanza, y luego nos hemos olvidado de ello, como los niños que dan luz a los monstruos que los acechan, sin darse cuenta de que son ellos mismos quienes tienen la culpa de sus desvelos?».
Esa escena es atemporal. El verdadero golpe, sin embargo, reside en desmantelar la ficción humana de que la razón maquínica es algo ajeno. Según la postura del libro, no es más que un reflejo de la propia sombra humana.
Después viene von Neumann, retratado a través de los ojos de sus contemporáneos (editor, amigo, testigo, resentido, admirador). «Johnny» es un talento que aterriza en el mundo con la naturalidad de quien no entiende por qué los demás se cansan. La descripción oficial lo ubica como alguien que inventa teoría de juegos, computación programable, y abre puertas hacia IA, vida digital, autómatas celulares. Alrededor de este personaje del libro el autor construye el costado sacramental que le interesa que miremos: la fe inquebrantable en la lógica. El deseo de encapsular el caos humano dentro de un conjunto de reglas limpias. El origen “inocente” de recolectar la esencia. Reducirla, Computacionalizarla. Capturar la motivación con ecuaciones, dibujar una malla sobre la vida interior. Y de ese impulso, ingenuo en apariencia, se pasa a las formas de esclavitud racional que vienen después.
“Espiritualmente, era un ignorante, sin duda, pero creía en la lógica de manera incuestionable. Sin embargo, ese tipo de fe es muy peligrosa… Especialmente si luego es traicionada. Ningún aspecto de la realidad debería estar más allá de la duda… La fe perdida es peor que su ausencia total, porque deja un vacío gigantesco… Y esos agujeros con la forma de Dios exigen… ser llenados con algo tan precioso como lo que se perdió.”
Una máquina sin conciencia solo puede aumentar el ritmo de nuestro progreso (o acelerar nuestra caída), pero nunca guiarlo. Por eso el libro insiste en el error de base que cometen los modelos cuando inventan al jugador perfecto.
“Los seres humanos comunes y corrientes son distintos. No cabe duda que mienten, engañan y conspiran, pero también cooperan, se pueden sacrificar por otros y toman decisiones caprichosas… Porque la vida es mucho más que un juego. Su verdadera riqueza y complejidad no puede ser capturada con ecuaciones, sin importar cuán hermosas sean…
Y aunque esto desencadena el caos ingobernable que vemos a nuestro alrededor, también supone una gran misericordia, un extraño ángel que nos protege de los delirios de la razón.”
Ese “ángel” es una puñalada a la fantasía contemporánea de la optimización total. Lo irracional, lo contradictorio, lo humano como falla, aparece como defensa contra el delirio lógico. Como si al querer “limpiar” demasiado el mundo, terminaramos limpiándolo de humanidad, perdiendo de vista el don que reside en el error.
Así, un prompt bien preparado se convierte en una instrucción para la máquina que, a su vez, la utiliza para darse instrucciones a sí misma y, finalmente, nos da instrucciones a nosotros, cerrando un círculo de obediencia delegada. Si esta es la reseña sobre un libro sobre obediencia, ¿quién obedece a quién en este punto del ciclo? ¿La máquina a nosotros o nosotros a la máquina? ¿Qué distancia hay, realmente, desde una conducta algorítmicamente «asistida» a una directa o indirectamente guiada?.
Ns/NC.
Add a Comment