Olvídese de las representaciones de Hollywood de robots armados corriendo descontrolados por las calles: la ingenuidad de la inteligencia sintético es mucho más peligrosa, advierte el historiador y escritor en este extracto exclusivo de su nuevo volumen.

 

A lo holgado de la historia, muchas tradiciones han sostenido que existe algún defecto funesto en la naturaleza humana que nos impulsa a perseguir poderes que no sabemos manejar. El mito heleno de Faetón contaba la historia de un verde que descubre que es hijo de Helios, el dios del Sol. Deseoso de demostrar su origen divino, Faetón exige el privilegio de conducir el carro del Sol. Helios le advierte que ningún ser humano puede controlar los caballos celestiales que tiran del carro solar. Pero Faetón insiste hasta que el dios del Sol cede.

 

Tras descolalr orgullosamente por el Paraíso, Faetón pierde efectivamente el control del carro. El Sol se desvía de su curso, fuego toda la plantas, mata a numerosos seres y amenaza con incendiar la propia Tierra. Zeus interviene y alcanza a Faetón con un centella. El presuntuoso humano cae del Paraíso como una hado fugaz, envuelto en llamas. Los dioses recuperan el control de los cielos y salvan el mundo.

 

Dos mil abriles luego, cuando la Revolución Industrial daba sus primeros pasos y las máquinas comenzaban a sustituir a los seres humanos en numerosas tareas, Johann Wolfgang von Goethe publicó un relato de advertencia similar titulado El aprendiz de brujo. El poema de Goethe —popularizado luego mediante una animación de Walt Disney protagonizada por Mickey Mouse— cuenta la historia de un envejecido hechicero que deja a un verde aprendiz a cargo de su taller y le encomienda varias tareas mientras está fuera, entre ellas traer agua del río.

 

El aprendiz decide facilitarse el trabajo y, utilizando uno de los hechizos del hechicero, encanta una escoba para que vaya a averiguar agua por él. Sin requisa, no sabe cómo detenerla. La escoba continúa trayendo agua sin cesar y amenaza con inundar el taller.

 

Presa del pánico, el aprendiz corta la escoba encantada en dos con un hachuela, pero cada porción se convierte en una nueva escoba. Ahora son dos las escobas encantadas que inundan el taller. Cuando regresa el envejecido hechicero, el aprendiz le suplica ayuda: «Los espíritus que invoqué, ahora no puedo librarme de ellos». El hechicero rompe inmediatamente el encantamiento y detiene la inundación.

 

La clase para el aprendiz —y para la humanidad— es clara: nunca invoques poderes que no puedas controlar.

 

¿Qué nos dicen en el siglo XXI las fábulas de Faetón y del aprendiz? Evidentemente, los seres humanos nos hemos obtuso a escuchar sus advertencias. Ya hemos desequilibrado el clima de la Tierra y hemos invocado miles de millones de escobas encantadas, drones, chatbots y otros espíritus algorítmicos que podrían escapar de nuestro control y desencadenar una avalancha de consecuencias.

 

¿Qué deberíamos hacer entonces? Las fábulas no ofrecen respuestas, menos de esperar que algún dios o hechicero venga a salvarnos.

 

El mito de Faetón y el poema de Goethe no proporcionan consejos positivamente efectos porque interpretan erróneamente la guisa en que los seres humanos adquieren poder. En ambas historias, un individuo obtiene un poder enorme y luego es corrompido por la arrogancia y la codicia. La conclusión es que nuestra imperfecta psicología individual nos lleva a explotar del poder.

 

Sin requisa, este observación simplista pasa por stop que el poder humano nunca es exclusivamente resultado de la iniciativa individual. El poder surge siempre de la cooperación entre grandes cantidades de personas.

 

Por tanto, no es simplemente nuestra psicología individual la que provoca que abusemos del poder. Junto con la codicia, la arrogancia y la crueldad, los seres humanos incluso somos capaces de sexo, compasión, humildad y alegría.

 

Es cierto que entre los peores miembros de nuestra especie predominan la codicia y la crueldad, y que los malos actores abusan del poder. Pero ¿por qué las sociedades humanas decidirían entregar poder precisamente a sus peores miembros? La mayoría de los alemanes de 1933, por ejemplo, no eran psicópatas. Entonces, ¿por qué votaron por Hitler?

 

Nuestra tendencia a invocar poderes que no podemos controlar no procede simplemente de la psicología individual, sino de la particular guisa en que nuestra especie coopera a gran escalera.

 

La humanidad obtiene un enorme poder construyendo grandes redes de cooperación, pero la guisa en que esas redes están construidas nos predispone a utilizar ese poder de forma poco sensata. Muchas de nuestras redes se han construido y mantenido difundiendo ficciones, fantasías y delirios colectivos, desde escobas encantadas hasta sistemas financieros.

 

Nuestro problema, luego, es un problema de redes. Más específicamente, es un problema de información. La información es el pegamento que mantiene unidas las redes y, cuando las personas reciben mala información, probablemente tomarán malas decisiones, sin importar lo sabias o bondadosas que sean individualmente.

 

En las últimas generaciones, la humanidad ha experimentado el maduro incremento de la historia tanto en la cantidad como en la velocidad de producción de información. Cada teléfono inteligente contiene más información que la antigua Biblioteca de Alejandría y permite a su propietario conectarse instantáneamente con miles de millones de personas en torno a del mundo.

 

Sin requisa, con toda esa información circulando a velocidades vertiginosas, la humanidad está más cerca que nunca de aniquilarse a sí misma.

 

A pesar de —o quizá conveniente a— nuestra enorme acumulación de datos, continuamos emitiendo gases de huella invernadero a la ámbito, contaminando ríos y océanos, talando bosques, destruyendo hábitats completos, llevando innumerables especies cerca de la terminación y poniendo en peligro las bases ecológicas de nuestra propia existencia.

 

También producimos armas de destrucción masiva cada vez más poderosas, desde bombas termonucleares hasta virus potencialmente devastadores. Nuestros dirigentes no carecen de información sobre estos peligros y, sin requisa, en lado de colaborar para encontrar soluciones, se acercan cada vez más a una eliminación completo.

 

¿Tener todavía más información mejoraría las cosas o las empeoraría? Pronto lo descubriremos.

 

Numerosas empresas y gobiernos compiten por desarrollar la tecnología de información más poderosa de la historia: la inteligencia sintético.

 

Algunos destacados empresarios, como el inversor estadounidense Marc Andreessen, consideran que la IA terminará resolviendo todos los problemas de la humanidad. El 6 de junio de 2023, Andreessen publicó un adiestramiento titulado Why AI Will Save the World («Por qué la IA salvará al mundo»), en el que defendió que la IA no destruirá el planeta y que incluso podría salvarlo. Concluyó argumentando que el expansión y la proliferación de la inteligencia sintético, allí de constituir un aventura que debamos temer, representan una obligación íntegro cerca de nosotros mismos, nuestros hijos y nuestro futuro.

 

Otros son mucho más escépticos.

 

No solo filósofos y científicos sociales, sino incluso destacados expertos y empresarios vinculados a la IA, como Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk y Mustafa Suleyman, han preparado que esta tecnología podría destruir nuestra civilización.

 

En una pesquisa realizada en 2023 entre 2,778 investigadores de inteligencia sintético, más de un tercio atribuyó al menos un 10 % de probabilidad a que una IA destacamento pudiera provocar consecuencias tan graves como la terminación humana.

 

Ese mismo año, cerca de 30 gobiernos —entre ellos los de China, Estados Unidos y Reino Unido— firmaron la Declaración de Bletchley sobre inteligencia sintético, en la que reconocieron la posibilidad de daños graves e incluso catastróficos, deliberados o accidentales, derivados de las capacidades más avanzadas de estos modelos.

 

Al invertir términos tan apocalípticos, expertos y gobiernos no pretenden rememorar una imagen hollywoodense de robots rebeldes recorriendo las calles y disparando contra las personas. Ese círculo es improbable y exclusivamente distrae la atención de los peligros reales.

 

La IA no sería simplemente una útil

 

La inteligencia sintético representa, según este planteamiento, una amenaza sin precedentes porque sería la primera tecnología de la historia capaz de tomar decisiones y crear nuevas ideas por sí misma.

 

Todos los inventos humanos anteriores aumentaron nuestras capacidades, pero, independientemente de lo poderosa que fuera la útil, las decisiones sobre su utilización permanecían en manos humanas.

 

Las bombas nucleares no deciden por sí mismas a quién matar, ni pueden mejorarse autónomamente o inventar bombas más poderosas. En cambio, los drones autónomos pueden tomar decisiones sobre sus objetivos y las IA pueden suscitar nuevos diseños, estrategias militares inéditas e incluso mejores sistemas de inteligencia sintético.

 

La IA, desde esta perspectiva, no es solamente una útil: es un agente.

 

El maduro peligro sería que estamos introduciendo en el mundo innumerables agentes poderosos, potencialmente más inteligentes e imaginativos que nosotros, cuyo funcionamiento no comprendemos ni controlamos completamente.

 

Tradicionalmente, las siglas «IA» significan inteligencia sintético. Pero quizá, plantea Harari, sería mejor interpretarlas como «inteligencia extraterrestre».

 

A medida que evoluciona, la IA se vuelve menos sintético —en el sentido de reconocer de diseños humanos— y más ajena a nuestra forma de pensar.

 

Muchas personas intentan medirla utilizando como narración una «inteligencia de nivel humano», y existe un intenso debate sobre cuándo alcanzará ese punto. Pero esa medida puede resultar engañosa. Sería como concretar y evaluar los aviones utilizando como narración el «revoloteo de nivel pájaro».

 

La IA no necesariamente avanza cerca de una inteligencia idéntica a la humana. Está desarrollando una forma diferente de inteligencia.

 

Incluso actualmente, en una etapa todavía temprana de la revolución de la IA, las computadoras ya toman decisiones que afectan a las personas: si concederles una hipoteca, contratarlas para un empleo o incluso decisiones vinculadas al sistema contencioso.

 

Mientras tanto, sistemas generativos pueden producir poemas, historias e imágenes. Esta tendencia probablemente aumentará y acelerará, dificultando todavía más comprender las decisiones que afectan nuestras propias vidas.

 

¿Podemos esperar en los algoritmos informáticos para tomar decisiones sensatas y construir un mundo mejor? Esa desafío sería mucho maduro que esperar en una escoba encantada para traer agua.

 

Y no estaríamos apostando exclusivamente con vidas humanas.

 

La IA ya es capaz de producir arte y contribuir a descubrimientos científicos. En las próximas décadas podría mercar incluso la capacidad de crear nuevas formas de vida, ya sea escribiendo código hereditario o desarrollando códigos capaces de animar entidades inorgánicas.

 

Por tanto, podría modificar no solo la historia de nuestra especie, sino incluso el curso de la progreso de todas las formas de vida.

 

La envite 37 de AlphaGo

 

Mustafa Suleyman es uno de los expertos mundiales en inteligencia sintético. Es cofundador de DeepMind, una de las empresas más importantes del sector y responsable, entre otros avances, del expansión de AlphaGo.

 

AlphaGo fue diseñado para corretear Go, un surtido clave creado en la antigua China en el que dos jugadores intentan derrotarse rodeando y capturando comarca. Es considerablemente más complicado que el ajedrez.

 

Por ello, incluso luego de que las computadoras derrotaran a campeones mundiales de ajedrez, muchos expertos seguían pensando que las máquinas no podrían exceder a los seres humanos en Go.

 

Todo cambió en marzo de 2016, cuando AlphaGo derrotó al campeón surcoreano Lee Sedol.

 

Uno de los momentos decisivos ocurrió durante la segunda partida, el 10 de marzo de 2016: la denominada envite 37.

 

La atrevimiento de AlphaGo parecía inicialmente incomprensible. Los comentaristas profesionales pensaron que podía tratarse de un error. Era una envite tan extraña que Sedol tardó unos 15 minutos en objetar.

 

Sin requisa, al acercarse el final de la partida quedó demostrado que aquella envite había sido decisiva. AlphaGo volvió a ingresar.

 

La táctica del Go estaba siendo reescrita delante los fanales de los propios expertos. La IA había antagónico posibilidades que no se les habían ocurrido a los mejores jugadores humanos durante miles de abriles.

 

La envite 37 simboliza la revolución de la IA por dos motivos.

 

Primero, demostró su carácter externo a la inteligencia humana. Durante más de 2,500 abriles, decenas de millones de personas habían jugado Go y desarrollado escuelas enteras de táctica. Sin requisa, las mentes humanas solo habían explorado determinadas zonas del enorme universo de posibilidades del surtido.

 

La IA encontró territorios estratégicos que los humanos simplemente no habían considerado.

 

Segundo, mostró lo difícil que puede resultar comprender cómo una IA llega a determinadas decisiones.

 

Incluso luego de que AlphaGo utilizara aquella envite para ingresar, sus desarrolladores no podían explicar de guisa sencilla y detallada cómo había llegado exactamente a esa atrevimiento.

 

Las redes neuronales avanzadas funcionan en buena medida como «cajas negras»: producen resultados mediante cadenas extremadamente complejas de señales internas que no siempre pueden comprender paso por paso.

 

El aventura para la democracia

 

El medra de una inteligencia que resulta difícil de comprender supone, según Harari, un desafío particular para las democracias.

 

Si cada vez más decisiones sobre la vida de las personas se toman internamente de una «caja negra» que los ciudadanos no pueden comprender ni cuestionar, el funcionamiento tolerante podría hallarse débil.

 

¿Qué sucedería si decisiones cruciales sobre asuntos colectivos —por ejemplo, los tipos de interés de la Reserva Federal estadounidense— fueran adoptadas por algoritmos cuyo razonamiento ningún ser humano pudiera comprender?

 

Los ciudadanos podrían continuar eligiendo presidentes humanos, pero esa sufragio correría el aventura de convertirse en una ceremonia vacía si las decisiones fundamentales estuvieran positivamente en manos de sistemas incomprensibles.

 

Incluso hoy, solo una pequeña fracción de la humanidad entiende positivamente el funcionamiento del sistema financiero.

 

Una pesquisa realizada en 2014 entre parlamentarios británicos encontró que solo el 12 % comprendía correctamente que los bancos crean nuevo metálico cuando conceden préstamos, uno de los principios básicos del sistema financiero reciente.

 

La crisis financiera de 2007-2008 ya demostró que algunos instrumentos y mecanismos financieros complejos eran comprendidos exclusivamente por un pequeño rama de especialistas.

 

¿Qué sucedería con la democracia si las IA desarrollaran instrumentos financieros todavía más complejos y llegara un momento en que ningún ser humano entendiera completamente el sistema?

 

La «escoba» de Wall Street

 

Harari propone imaginar una lectura financiera de El aprendiz de brujo.

 

Un trabajador de Wall Street, cansado de las tareas rutinarias, crea una IA emplazamiento «Broomstick» («Palo de escoba»), le entrega un millón de dólares como caudal auténtico y le ordena ingresar más metálico.

 

Las finanzas serían un ámbito especialmente adecuado para una IA porque funcionan principalmente mediante información y matemáticas.

 

Para conducir autónomamente un automóvil, una inteligencia sintético debe interactuar con el complicado mundo físico. En cambio, para realizar operaciones financieras solo necesita procesar datos y puede valorar fácilmente su éxito en dólares, euros o libras.

 

Broomstick no solo desarrollaría nuevas estrategias de inversión. Podría inventar instrumentos financieros que ningún ser humano hubiera concebido.

 

Durante miles de abriles, las personas han creado metálico, cheques, bonos, acciones, ETF, CDO y numerosos mecanismos financieros. Pero podrían existir enormes áreas del universo financiero que simplemente nunca se nos ocurrió explorar.

 

Una IA podría encontrarlas.

 

Durante algunos abriles, todo podría parecer maravilloso: mercados en encarecimiento, enormes beneficios y metálico entrando con facilidad.

 

Entonces podría producirse una crisis maduro que las de 1929 o 2008.

 

El problema sería que ningún presidente, banquero o ciudadano comprendería qué la provocó ni cómo solucionarla.

 

Los gobiernos, desesperados, podrían terminar solicitando ayuda precisamente a la única entidad capaz de comprender lo ocurrido: la propia IA.

 

Esta propondría medidas económicas extraordinarias y opacas. Los políticos tendrían entonces que animarse si obedecer recomendaciones cuyo funcionamiento son incapaces de entender.

 

El problema no es exclusivamente la IA

 

Las computadoras todavía no son lo suficientemente poderosas para escapar completamente del control humano o destruir por sí solas nuestra civilización.

 

Mientras la humanidad sea capaz de cooperar, puede construir instituciones destinadas a regular la inteligencia sintético tanto en las finanzas como en la eliminación.

 

El problema es que la humanidad nunca ha estado completamente unida.

 

Siempre han existido actores malintencionados y desacuerdos incluso entre personas con buenas intenciones.

 

Por ello, el medra de la IA podría representar un peligro existencial no necesariamente por la maldad de las computadoras, sino por las propias deficiencias humanas.

 

Un dictador paranoico, por ejemplo, podría conceder enormes poderes a una IA falible, incluso autoridad sobre sistemas militares. Un error o un objetivo inesperado del sistema podría suscitar consecuencias catastróficas.

 

De igual guisa, actores terroristas podrían intentar utilizar inteligencia sintético para desarrollar amenazas biológicas. El peligro radica en que personas sin conocimientos especializados podrían apoyarse en sistemas avanzados para obtener capacidades que antiguamente requerían abriles de formación científica.

 

La civilización incluso podría sufrir daños mediante «armas de destrucción masiva social»: historias y contenidos diseñados para destruir los vínculos de confianza.

 

Una IA desarrollada en un país podría utilizarse para inundar otros territorios con noticiario falsas, metálico imitado y personas digitales falsas, hasta provocar que la población pierda la capacidad de esperar en lo que ve y audición.

 

Muchas democracias y dictaduras podrían realizar responsablemente y regular estas aplicaciones. Pero bastaría con que algunos Estados no lo hicieran para suscitar riesgos internacionales.

 

Al igual que el cambio climático, la IA constituye un problema completo y no exclusivamente franquista.

 

Las nuevas «colonias de datos»

 

Para comprender la nueva política informática, no hilván con estudiar cómo cada sociedad reaccionará delante la IA. También hay que considerar cómo esta tecnología puede modificar las relaciones entre países.

 

En el siglo XVI, los conquistadores españoles, portugueses y neerlandeses construyeron imperios utilizando barcos de vela, caballos y pólvora.

 

Cuando británicos, rusos y japoneses buscaron la hegemonía durante los siglos XIX y XX, utilizaron barcos de vapor, locomotoras y ametralladoras.

 

En el siglo XXI, para dominar una colonia ya no sería necesario despachar barcos de eliminación.

 

Bastaría con controlar sus datos.

 

Un pequeño rama de empresas o gobiernos capaz de compendiar los datos del planeta podría convertir al resto del mundo en «colonias de datos»: territorios controlados no mediante una ocupación marcial abierta, sino mediante información.

 

Imagine un círculo internamente de 20 abriles en el que determinado en Pekín o San Francisco posea el historial personal completo de cada político, periodista, coronel y director ejecutor de su país: todos sus mensajes, búsquedas en internet, enfermedades, encuentros sexuales, bromas y posibles sobornos.

 

¿Seguiría viviendo positivamente en un país independiente o se encontraría internamente de una colonia de datos?

 

¿Qué sucedería si su país dependiera completamente de infraestructuras digitales y sistemas de IA sobre los cuales no tuviera ningún control efectivo?

 

Una riqueza mundial dominada por algoritmos

 

Los antiguos imperios se basaban en fortuna materiales como la tierra, el algodón y el petróleo.

 

Esto imponía límites físicos a la concentración del poder crematístico y político. Toda la tierra, el algodón o el petróleo del planeta no pueden trasladarse a un solo país.

 

Con los imperios de información ocurre poco diferente.

 

Los datos pueden desplazarse a la velocidad de la luz y los algoritmos escasamente necesitan espacio físico. En consecuencia, el poder algorítmico mundial podría concentrarse en unos pocos centros.

 

Ingenieros de un solo país podrían escribir el código y controlar las claves de algoritmos fundamentales utilizados en todo el planeta.

 

La inteligencia sintético y la automatización plantean, por ello, un desafío peculiar para los países en expansión.

 

En una riqueza completo impulsada por IA, los líderes digitales podrían quedarse con gran parte de los beneficios y utilizar esa riqueza para capacitar nuevamente a su población y aumentar todavía más sus ventajas.

 

Mientras tanto, el valencia crematístico de trabajadores poco cualificados en países rezagados podría disminuir, ampliando todavía más la brecha.

 

El resultado podría ser una enorme creación de riqueza y empleos en centros como San Francisco y Shanghái mientras otras regiones afrontan graves dificultades económicas.

 

PricewaterhouseCoopers estimó que la IA podría añadir 15.7 billones de dólares a la riqueza mundial para 2030. Sin requisa, según las proyecciones citadas, China y Norteamérica podrían concentrar conjuntamente en torno a del 70 % de esos beneficios.

 

Del telón de puñal al «telón de silicio»

 

Durante la Guerra Fría, el telón de puñal estaba fielmente compuesto en muchos lugares por estructuras metálicas y alambre de púas que separaban unos países de otros.

 

Ahora el mundo corre el aventura de estar dividido por un «telón de silicio».

 

El código del teléfono inteligente puede determinar de qué costado de esa frontera digital vive una persona: qué algoritmos influyen sobre su vida, quién controla su atención y cerca de dónde fluyen sus datos.

 

Cada vez resulta más difícil lograr autónomamente a información entre diferentes esferas digitales, como China y Estados Unidos o Rusia y la Unión Europea.

 

Además, estos bloques funcionan progresivamente mediante redes digitales distintas y códigos diferentes.

 

En China no se utilizan autónomamente servicios como Google, Facebook o Wikipedia. En Estados Unidos, por su parte, aplicaciones chinas como WeChat tienen una presencia mucho beocio.

 

Y estas dos esferas no son simples imágenes reflejadas.

 

Baidu no es exclusivamente «el Google chino», ni Alibaba «el Amazon chino». Poseen objetivos, arquitecturas digitales y enseres sociales distintos.

 

Estas diferencias tienen consecuencias mundiales porque numerosos países dependen de tecnologías estadounidenses o chinas en lado de desarrollar sus propias infraestructuras.

 

Estados Unidos incluso ha presionado a aliados para resumir su dependencia de determinados equipos chinos, como la infraestructura 5G de Huawei.

 

Asimismo, Washington ha establecido restricciones sobre la exportación cerca de China de chips avanzados utilizados para desarrollar inteligencia sintético.

 

A corto plazo, esas medidas pueden dificultar el avance chino. Pero a holgado plazo incluso pueden impulsar a China a construir una esfera tecnológica completamente separada.

 

De la red al capullo digital

 

Las dos grandes esferas digitales podrían distanciarse cada vez más.

 

Durante siglos, las nuevas tecnologías de información impulsaron la globalización y acercaron a personas de distintas partes del planeta.

 

Paradójicamente, la tecnología de información contemporáneo podría impresionar a ser tan poderosa que produzca el huella contrario: dividir a la humanidad encerrando a diferentes poblaciones internamente de «capullos de información» separados y debilitando la existencia de una ingenuidad compartida.

 

Durante décadas, la gran metáfora mundial fue «la red».

 

En las próximas décadas podría ser «el capullo».

 

China y Estados Unidos son actualmente los principales protagonistas de la competencia por la IA, pero no son los únicos.

 

La Unión Europea, India, Brasil, Rusia y otros países o bloques podrían intentar construir sus propios ecosistemas digitales, influenciados por diferentes tradiciones políticas, culturales y religiosas.

 

En lado de dos grandes imperios digitales, el planeta podría terminar dividido entre una docena.

 

IA, ciberguerra y aventura de conflicto

 

Cuanto maduro sea la competencia entre estos nuevos imperios, maduro podría ser el aventura de enfrentamientos.

 

La Guerra Fría entre Estados Unidos y la Unión Soviética nunca desembocó en una confrontación marcial directa a gran escalera, en buena medida por la doctrina de la destrucción mutua asegurada.

 

La era de la inteligencia sintético presenta una dinámica distinta porque la eliminación cibernética funciona de guisa diferente a la eliminación nuclear.

 

Las armas cibernéticas pueden derribar la red eléctrica de un país, destruir instalaciones de investigación, interferir sensores, respaldar escándalos políticos, manipular elecciones o hackear un único teléfono inteligente.

 

Y pueden hacerlo de guisa clandestina.

 

No anuncian su presencia mediante una cúmulo nuclear ni dejan necesariamente un rastrillo visible desde el lado de tiro hasta su objetivo.

 

En ocasiones resulta incluso difícil determinar si positivamente ocurrió un ataque o quién fue responsable.

 

Eso puede aumentar tanto la tentación de iniciar una eliminación cibernética limitada como el aventura de que luego escale.

 

Existe encima otro problema: la imprevisibilidad.

 

Durante la Guerra Fría, las consecuencias de una eliminación nuclear eran relativamente claras. En la ciberguerra nadie sabe exactamente dónde ha colocado el adversario sus bombas lógicas, troyanos o programas maliciosos.

 

Tampoco puede saberse con absoluta certeza si las propias armas funcionarían cuando fueran necesarias.

 

Esa incertidumbre puede debilitar la método de la destrucción mutua asegurada.

 

Una potencia podría convencerse —correcta o incorrectamente— de que posee capacidad para realizar un primer ataque exitoso y evitar una represalia devastadora.

 

Y si cree que esa superioridad es temporal, la tentación de atacar antiguamente de perderla podría aumentar.

 

El nuevo depredador

 

Incluso si la humanidad evita el peor círculo de una eliminación completo, la aparición de nuevos imperios digitales podría amenazar la exención y prosperidad de miles de millones de personas.

 

Los imperios industriales de los siglos XIX y XX explotaron y reprimieron a muchas de sus colonias. Sería ingenuo encargarse que los nuevos imperios digitales necesariamente se comportarán mejor.

 

Además, un mundo dividido entre bloques rivales tendría mayores dificultades para cooperar frente a la crisis ecológica o para regular tecnologías disruptivas como la inteligencia sintético y la bioingeniería.

 

Esta división coincide con la visión de dirigentes que consideran al mundo una fronda en la que solo existen dos opciones: convertirse en depredador o en presa.

 

Ante esa sufragio, muchos preferirían ocurrir a la historia como conquistadores.

 

Pero Harari sostiene que deberían rememorar que existe un nuevo depredador alfa en esa fronda.

 

Si la humanidad no encuentra una guisa de cooperar y proteger sus intereses compartidos, todos podríamos convertirnos en presa sencillo de la inteligencia sintético.

 

Este texto corresponde a un extracto editado de Nexus: A Brief History of Information Networks from the Stone Age to AI (Nexus: Una breve historia de las redes de información desde la Edad de Piedra hasta la IA), de Yuval Noah Harari.

 

Nota de corrección del texto diferente: el artículo fue modificado el 5 de septiembre de 2024 porque una lectura antecedente describía incorrectamente a Mustafa Suleyman como antiguo director de DeepMind. También se aclaró que Suleyman no fue personalmente responsable del expansión de AlphaGo y que el equipo de AlphaGo relacionado con la envite 37 no estaba dirigido por él.

 

Mensaje de apoyo de The Guardian

 

Tenemos un pequeño protección que pedir. Decenas de millones de personas han depositado su confianza en el periodismo de The Guardian desde que comenzamos a transmitir hace más de 200 abriles, recurriendo a nosotros en momentos de crisis, incertidumbre, solidaridad y esperanza.

 

Más de 1.5 millones de colaboradores de 180 países nos apoyan económicamente, ayudándonos a permanecer nuestro contenido campechano para todos y nuestra independencia.

 

A diferencia de muchos otros medios, The Guardian no tiene accionistas ni un propietario multimillonario. Nuestro objetivo es ofrecer periodismo de gran impacto, librado de influencias comerciales o políticas. Consideramos que este tipo de información resulta fundamental para la democracia, la equidad y la rendición de cuentas de quienes ejercen poder.

 

Ofrecemos este contenido gratis porque creemos en la igualdad en el entrada a la información. Cuantas más personas puedan seguir los acontecimientos mundiales, comprender su impacto sobre las comunidades e inspirarse para realizar, maduro será el beneficio colectivo.

 

Millones de personas pueden lograr a periodismo de calidad independientemente de su capacidad económica.

 

Cualquier contribución, pequeña o alto, ayuda a financiar nuestro periodismo durante los próximos abriles. Agradecemos cualquier apoyo que pueda ofrecer.