En las vísperas de lo desconocido

Nexus – Una breve historia de las redes de información desde la Edad de Piedra hasta la IA
Yuval Noah Harari
Debate, 2024
608 páginas, $ 42.999

En una época donde muchos científicos sostienen que la base del universo no es la materia sino la información, y que la economía y la vida social dependen cada vez más de ella, Nexus tiene el mérito de centrarse en este tema: el del análisis de las redes de información como eje que sostiene las diferentes civilizaciones en la Historia, y la importancia del cambio tecnológico que da forma a esas redes y a las sociedades que las producen y son producidas por ellas. Quienes hayan leído las anteriores obras de Harari encontrarán en estas ideas una continuación ampliada de su tesis central: lo que distingue a los seres humanos –y explica su avasallante superioridad sobre las demás especies– no es la inteligencia general sino la capacidad de establecer grandes relatos ficcionales que organizan la cooperación entre un número creciente de individuos.

Nexus contradice lo que llama la visión naíf de la información, es decir, la idea iluminista de que, a mayor conocimiento y mayor información, las sociedades inevitablemente mejoran, y que, por lo tanto, cualquier interferencia en la libre comunicación e interacción de las redes es negativa. Para Harari, en cambio, las redes de información tienden a privilegiar el orden sobre la verdad, por lo que resulta completamente erróneo pensar que el simple debate de las ideas acaba con la ignorancia y la superstición y lleva necesariamente a un mundo feliz e ilustrado. Ejemplo fascinante, Harari señala la caza de brujas promovida desde un libelo (Malleus Maleficarum, El martillo de las brujas), que siguió al auge de la red de información basada en una innovación tecnológica decisiva: la imprenta de Gutenberg.

Pero el tema con Nexus es que termina donde podría empezar. Supongamos que las redes de información –y en particular, las redes sociales– son incapaces de producir conocimiento y verdad por sí solas; supongamos que necesitan de un sistema de regulaciones y sanciones externo que les permitan autocorregirse. El problema es el de siempre: ¿quién y con qué legitimidad es capaz de establecer regulaciones y sanciones que, sin coartar la libertad de expresión, produzcan mejores resultados? ¿Quién elige a los controladores, y cómo lo hace? ¿Y quién controla a los controladores?

¿Quién y con qué legitimidad es capaz de establecer regulaciones y sanciones que, sin coartar la libertad de expresión, produzcan mejores resultados?

Después de haber dedicado brillantemente cientos de páginas al análisis y al diagnóstico del problema, las propuestas de solución son pobres: referencias vagas a la necesidad de la cooperación internacional para controlar y limitar los alcances de la inteligencia artificial, y nada más. Ninguna indicación acerca de cómo podría llevarse adelante esta cooperación internacional en un escenario mundial hoy marcado por la rivalidad y por el conflicto. Ninguna idea acerca de cuáles instituciones y con qué método podrían ser capaces de establecer regulaciones globales –las únicas efectivas–, ya que cualquier regulación nacional limitante del desarrollo de la inteligencia artificial es ineficaz y pone en desventaja a quien la aplique. ¿Por qué motivo habrían de poner barreras éticas al desarrollo de la inteligencia artificial esos mismos estados nacionales y corporaciones globales que han hecho de la competencia despiadada por la hegemonía y las ganancias el principio rector de sus estrategias?

Nexus plantea una voz disonante e interesante, capaz de denunciar y de analizar con profundidad estos temas en el terreno de la tecnología y la cultura, pero que fracasa estrepitosamente en el terreno de la política, y más precisamente, en el terreno de la política global. Partiendo de una crítica más que razonable a las ideas naíf sobre la democratización y horizontalización que las redes de comunicación social traerían per se, Harari parece caer en una nueva y peor ingenuidad: la de pensar que, en un escenario internacional definido por la lucha entre los estados por la supervivencia, el predominio o la hegemonía, y en el que a todos –gobiernos y empresas– les conviene individualmente operar como freeriders; bastan las convocatorias a la buena voluntad y los acuerdos para llegar a soluciones razonables. Buenismo del malo; inaceptable en alguien con su capacidad y preparación intelectuales.

El mundo real

La realidad de una situación global regida por un sistema internacional impotente, y en el que cada Estado dispone de soberanía absoluta, muestra exactamente el escenario contrario. El mundo, que entre 1989 (caída del muro de Berlín) y 2001 (ataque a las Twin Towers) parecía asomarse a un escenario de progreso indefinido que llevó a algunos a soñar con el fin de la Historia, se ha desbarrancado hacia el pasado y hoy predominan las discusiones acerca de si vivimos una guerra fría entre los Estados Unidos y China, o si directamente hemos entrado en los primeros escarceos de la Tercera Guerra Mundial.

Sin suscribir a visiones apocalípticas, está claro que la secuencia de acontecimientos que se desataron a partir del año 2001 (crisis económica, Brexit, aparición de partidos y gobiernos soberanistas y nacionalistas, terrorismo fundamentalista, conflictos bélicos en Medio Oriente y Ucrania, etc.) excluye la posibilidad de grandes acuerdos globales; probablemente, con la excepción de la crisis de las hipotecas subprime (2008), solucionada con la intervención del G20. Sin embargo, la regulación de la inteligencia artificial es un problema completamente diferente en el cual las crisis son por ahora simplemente potenciales, y en el que cada Estado nacional y cada corporación económica global está obligado a actuar sin respetar ninguna regla si no quiere ser sobrepasado por los demás. En este escenario, y ante la inexistencia de esfuerzos institucionales verdaderos para realizar cualquier intento regulatorio a nivel internacional y global, parece completamente imposible llegar a cualquier tipo de acuerdo marco efectivo. El caso de la Unión Europea, cuyo PIB era igual al de Estados Unidos en 2011 mientras que hoy es 21% menor, muestra los costos en términos de crecimiento de las regulaciones territoriales en un mercado global. Para no hablar de que Europa está hoy lejos de ser un actor relevante en el terreno de las vanguardias tecnológicas digitales, cooptado por el Estado chino y las corporaciones globales de origen estadounidense.

Europa está hoy lejos de ser un actor relevante en el terreno de las vanguardias tecnológicas digitales, cooptado por el Estado chino y las corporaciones globales de origen estadounidense.

Todo lo cual nos lleva a pensar que cualquier tipo de cooperación internacional como la que propone Harari es utópica, y que lo más probable es que predomine la libre competencia entre estados, entre corporaciones, y entre estados y corporaciones, deseosos todos de conseguir ventajas decisivas en el terreno de la inteligencia artificial general. Al menos, hasta que la hipótesis de Harari se verifique y su impacto negativo sobre el empleo, la seguridad y la autonomía de los seres humanos se haga evidente y la humanidad sea capaz de desarrollos institucionales tan revolucionarios y relevantes como su capacidad para el impulso de tecnologías globales. Después de todo, algo similar sucedió a inicios del siglo XX, cuando solo después de dos guerras mundiales, un horrendo genocidio y dos bombardeos atómicos fueron creados los dos núcleos político-institucionales –la ONU y la Unión Europea– que (al menos, hasta ahora) han impedido la repetición de horrores de esa escala.

En definitiva, ¿estamos en vísperas del paraíso o del infierno? Aunque nadie me la ha pedido, mi opinión es esta: como vengo escribiendo desde hace ya un cuarto de siglo, el control de la tecnología es una de las cinco crisis globales (junto a la económica, la ecológica, la demográfica y la de seguridad y monopolio de la violencia) derivadas de la asincronía de desarrollo entre una economía basada en el cambio técnico exponencial e instituciones políticas de desarrollo inexistente o trabajoso. Vivimos en un mundo con tecnología del siglo XXI, economía del siglo XX e instituciones del siglo XIX. El planeta es hoy un Fórmula 1 hipertecnológico manejado con un manubrio de bicicleta. Y para bien o para mal –no lo sabemos, pero lo sospechamos– hemos perdido la carrera regulatoria. No parece haber tiempo ya para ningún desarrollo político, ningún control tecnológico, ni ninguna regulación global del desarrollo de la Inteligencia Artificial General antes de que se haga autónoma e incontrolable. Si los tecnooptimistas como Kurzweil tienen razón, nos adentramos en un posible paraíso. Pero si tienen razón los tecnopesimistas como Harari, enfrentaremos alguna variante del infierno. Los mercados y las sociedades globales, ¿son capaces de autorregularse sin intervención política? Pronto lo sabremos.

Más generalismo

Dicho todo esto, a pesar de todo, Nexus merece ampliamente su lectura. Y los pensadores como Harari, nuestra atención. No escuchen lo que digan los académicos tradicionales ni los especialistas, siempre envidiosos de que los generalistas como Harari despierten el interés y la atención general, para ellos tan esquivos. El mundo necesita hoy médicos generalistas, gente que pueda surfear y conectar los diversos puntos de una realidad cada vez más compleja e interdisciplinaria navegando por su superficie, y no especialistas que hagan pozos profundos que hacen imposible comprender y aprehender el mundo realmente existente. Hoy es mejor saber un poco de todo que mucho de nada (si quieren más ideas al respecto: Los bárbaros de Baricco; lo mejor que he leído en estos temas). Harari y Baricco. Se los recomiendo como lo que soy: un profe de vóley al que La tercera ola de Toffler y El asedio a la modernidad de Sebreli le cambiaron la forma de ver el mundo.

Ya sea que estemos en las vísperas del paraíso o del infierno, y que se concuerde o no con la tesis de Harari, Nexus es siempre interesante y revela peligros en el roadmap de la sociedad global del conocimiento y la información que están a la vista de todos. No es tan difícil de comprender: más conocimiento, más poder y más información ya no aseguran necesariamente mejores resultados. Si el desarrollo de la inteligencia artificial pone conocimientos y poderes infinitos en manos de miles de millones de seres humanos, la humanidad está perdida. Perdida sin necesidad de que las computadoras tomen el control del planeta porque entre miles de millones de seres humanos, inevitablemente, habrá uno suficientemente loco o suficientemente estúpido como para desatar un episodio destructivo de escala planetaria. ¿Cuán lejos estamos del punto de encuentro fatal entre un grupo terrorista demencial o un loco suelto y el conocimiento necesario para generar daño a escala mundial? No lo sabemos, pero sí sabemos que el proceso se ha acelerado notablemente con la entrada en el escenario de DeepSeek, que no solo parece ser superior a las AI occidentales sino que es de código abierto; es decir: puede servir de plataforma para ulteriores desarrollos a costos temporales y financieros mucho menores. La historia de Eróstrato, aquel legendario pastor griego que quemó el templo de Artemisa para pasar a la inmortalidad, enseña.