Escucha este artículo
Audio generado con IA de Google
/
En noviembre de 2024, el presidente estadounidense Joe Biden y el presidente chino Xi Jinping hicieron su primera declaración conjunta sustancial en relación con los riesgos de la inteligencia artificial para la seguridad nacional. En concreto, señalaron que tanto Estados Unidos como China creen en «la necesidad de mantener el control humano sobre la decisión de usar armas nucleares». (Lea otra entrega de Pensadores globales 2026, sobre el futuro de Oriente Medio).
Puede parecer un triunfo diplomático fácil, ya que costaría encontrar a una persona razonable que esté dispuesta a sostener la conveniencia de ceder el control de las armas nucleares a la IA. Pero con el gobierno chino, no hay triunfos fáciles, sobre todo en cuestiones de seguridad importantes. Los chinos son intrínsecamente escépticos ante las propuestas estadounidenses de reducción de riesgos, y Rusia ya se opuso a declaraciones similares en organismos multilaterales. Puesto que las conversaciones bilaterales con Estados Unidos sobre IA y seguridad nuclear iban a generar un desacuerdo entre Rusia y China, no había ninguna garantía de lograr avances en este frente.
Al final, para hacer realidad esa simple declaración conjunta se necesitó más de un año de negociaciones. Pero aunque parezca poca cosa, el resultado fue significativo, porque demostró que las dos superpotencias de la IA pueden colaborar en una gestión de riesgos constructiva, incluso sin dejar de competir vigorosamente por el liderazgo del área.
Además, diplomáticos y expertos de los dos países ya se habían reunido antes (Ginebra, 2024) en una larga sesión dedicada a los riesgos de la IA. Fue la primera reunión de este tipo, y si bien no produjo ningún resultado significativo, el mero hecho de que haya existido fue un paso importante, y las dos partes consiguieron identificar áreas de riesgo críticas que requerían más trabajo.
Ahora que se aceleran el desarrollo y el despliegue de la IA (civil y militar), Estados Unidos y China deben construir sobre estos cimientos mediante acciones diplomáticas sostenidas y de alto nivel sobre los riesgos de la IA, incluso a la par de la competencia entre ambos países por el liderazgo del área. Deben hacerlo porque los riesgos de la IA son reales y cada vez mayores.
Por ejemplo, con el avance y la difusión de las capacidades de IA, podría ocurrir que actores no estatales (entre ellos, organizaciones terroristas) las aprovechen para amenazar a Estados Unidos, a China y al resto del mundo. Las posibilidades son muy variadas, por ejemplo, ciberataques que paralicen infraestructuras críticas, nuevas armas biológicas que eludan las medidas de detección o tratamiento, campañas de desinformación para desestabilizar gobiernos y sociedades y drones letales con IA capaces de lanzar un ataque fulminante en cualquier parte del mundo.
Y no son los únicos peligros. Al incrementar las fuerzas armadas de Estados Unidos y China el uso de la IA (hecho que acortará los circuitos de toma de decisiones y alterará los marcos de disuasión), aumentará el riesgo de que sistemas basados en IA puedan iniciar en forma accidental un conflicto o una escalada catastrófica. Por el lado de las finanzas, al crecer la adopción de la IA en el sistema bancario internacional será mayor el riesgo de una debacle bursátil causada por la automatización de operaciones mediante IA, a menos que se implementen mecanismos de protección adecuados. Y mirando más lejos, es imaginable la posibilidad de que un sistema de IA potente y mal alineado (un sistema que persiga objetivos distintos de los que pretendían sus creadores) provoque graves daños a la humanidad. Como únicas superpotencias mundiales en el área de la IA, Estados Unidos y China deben mantener un diálogo directo para hacer frente a estos y otros peligros.
Una competencia controlada
Dialogar no implica que China y Estados Unidos vayan a dejar de competir. Hace poco, China demostró la intensidad de esa competencia con la aprobación de estrictos nuevos controles a la exportación de tierras raras, que son insumos críticos para la producción de microchips y otros componentes de los sistemas de IA.
Como asesor de seguridad nacional durante la administración Biden, me esforcé por garantizar que Estados Unidos mantuviera la delantera en IA, para que esta tecnología trabajara a nuestro favor y no en contra. Vi que la carrera por el liderazgo en aplicaciones militares, de inteligencia y comerciales y por la adopción de modelos y aplicaciones de IA estadounidenses y chinos en otros países sería cada vez más intensa.
Pero es precisamente eso lo que vuelve esencial la diplomacia, incluso en este período de incremento de tensiones. Sería una grave irresponsabilidad que Estados Unidos y China se lancen a la competencia sin dialogar sobre los riesgos o sobre las inmensas oportunidades que ofrece la IA para hacer frente a desafíos transnacionales que van de la crisis climática a la salud pública.
Por cierto, destacados pensadores de ambos países han participado en iniciativas diplomáticas «paralelas»: conversaciones extraoficiales en las que suelen participar universidades, dirigentes empresariales y organizaciones civiles. Estos debates son valiosos y deben continuar. Pero en última instancia, no hay sustituto para el diálogo intergubernamental directo, aunque al principio sea limitado. Y ese diálogo tampoco puede esperar, en vista de la vertiginosa velocidad del avance tecnológico y de las previsibles dificultades que se hallarán en la búsqueda de logros diplomáticos que estén a la altura del momento. La gestión de los riesgos de la IA es un territorio inexplorado, de modo que el progreso no será rápido ni fácil. Estados Unidos y China tienen que empezar ya.
Muchos comentaristas comparan la situación actual con la historia del control de las armas nucleares, y esa analogía tiene cierto mérito. Las superpotencias tienen la responsabilidad de gestionar los riesgos asociados con tecnologías poderosas; y en el pasado hemos cumplido esa responsabilidad firmando acuerdos de control de armas, incluso en los momentos más tensos de la Guerra Fría. Pero la IA también presenta desafíos diferentes, que demandan ideas más innovadoras que el control de armamentos.
Las razones son varias. En primer lugar, la verificación es mucho más difícil. Una cosa es contar misiles y ojivas nucleares, para lo cual hay indicios detectables; contar algoritmos (por no hablar de discernir todas las capacidades y aplicaciones de un algoritmo determinado) es otra muy distinta.
En segundo lugar, en el caso de la IA, el problema del «doble uso» se presenta en forma diferente. Es verdad que la fisión nuclear tiene a la vez usos civiles y militares; pero entre el uso pacífico de la energía nuclear y las armas nucleares hay una línea bastante clara, y el Organismo Internacional de Energía Atómica tiene mucha experiencia en la tarea de vigilarla. En cambio, el mismo modelo de IA que puede colaborar con la investigación científica y generar crecimiento económico también puede usarse para obtener efectos letales aterradores. Esto hace que la dinámica competitiva entre Estados Unidos y China sea mucho más difícil de manejar, y que la línea entre oportunidad y riesgo sea mucho más difícil de discernir.
En tercer lugar, los debates sobre el control de armamentos se han centrado ante todo en las amenazas entre países, mientras que la IA, además de amenazas interestatales, también implica amenazas no estatales y los riesgos relacionados con la falta de alineación. Para la diplomacia, esto supone desafíos y oportunidades diferentes.
En cuarto lugar, al menos en Estados Unidos, la IA no la está desarrollando el Estado, sino el sector privado, y no una sola empresa, sino muchas que compiten entre sí. Esto implica que en el debate sobre la mitigación de riesgos, tiene que participar un universo de actores más amplio.
Por último, no existe un consenso respecto de hasta dónde llegarán las capacidades de la IA y con qué rapidez. Algunos la ven como una tecnología «normal» cuya plena adopción llevará décadas, mientras que otros sostienen que estamos a muy pocos años de una explosión de superinteligencia. Con las armas nucleares, se podía hablar de una detonación más o menos potente o de un vector más rápido o más maniobrable, pero básicamente uno sabía con qué estaba lidiando. Con la IA, la evolución y el impacto de sus capacidades son mucho más inciertos.
Durante mi período como asesor de seguridad nacional, me esforcé por asegurar que el gobierno de los Estados Unidos estuviera preparado para cualquier escenario dentro del espectro de incertidumbre. Esto demanda un nivel adicional de flexibilidad, sutileza y perseverancia. El sistema de control de armas nucleares no apareció de un día al otro. Hicieron falta años para diseñar los controles de exportación, los esquemas aplicados a los ensayos, los protocolos de verificación y las salvaguardas pertinentes, y décadas de diplomacia para mantenerlos. Con la IA, estamos en las primeras etapas de algo que es similar en ambición, pero diferente en sustancia y complejidad. Por eso es esencial comenzar ya mismo los esfuerzos de reducción de riesgos.
* Copyright: Project Syndicate, 2025. www.project-syndicate.org
Conoce más