JC Rueda
Derecho y tecnología

El Leviatán que no necesita súbditos

Inteligencia artificial, concentración de poder y la tentación del primer golpe.

Grabado al estilo del siglo XVII: un gigante coronado, hecho de cientos de personas, sostiene una jaula vacía mientras la mitad de su cuerpo se deshace en gente que camina hacia pueblos dispersos.

Publicado Lectura 7 min Ref. DTx11

Resumen

El riesgo más desatendido de la inteligencia artificial no es que se rebele, sino que obedezca a unos pocos. Se analizan el desempoderamiento gradual, la carrera entre potencias y la tentación del primer golpe, la doctrina MAIM y los precedentes nucleares, y se defiende, frente al Leviatán y frente al caos, un orden distribuido.

Materias: inteligencia artificial, concentración de poder, Leviatán, Hobbes, superinteligencia, primer golpe, MAIM, desempoderamiento gradual, singleton, Axelrod, orden distribuido, Reglamento de IA

El problema es el dueño de la máquina

En los últimos años, el debate sobre los riesgos de la IA se ha enfocado en un sistema que, por error o por diseño, persigue fines contrarios a los humanos. Aunque sigamos viendo que inteligencias escapan de areneros, a mi juicio el riesgo más evidente (y parece que más desatendido) es que obedezca a unos pocos y se convierta en un orden perfecto.

En el caso de la ciberseguridad, si existieran sistemas capaces de cerrar toda vulnerabilidad (lo que por parte de las matemáticas sigue siendo “indecidible”, como diría RICE) también desaparecería cualquier posibilidad de alterar el status quo, como algun autor ha referido, sería “acabar como un mono bailando en una jaula que no es lo bastante listo para ver”1

No olvidemos el dinero. Si el trabajo y la demanda de éste pasan a generarse (y consumirse) entre agentes de IA, la persona deja de ser necesaria2. La doctrina ha llamado a este proceso el “desempoderamiento gradual”, que ocurre cuando se descubre que la economía, la cultura y el Estado han existido porque necesitaban la participación humana, y no por iniciativa propia. Cuando la participación del ser humano se vuelve prescindible, no es necesario que se produzca una rebelión para que el Estado considere que no existen incentivos para garantizar su representación3, y quien deja de ser económicamente necesario corre el riesgo de dejar de serlo también en materia política.

Sus propios autores reconocen que nadie tiene todavía un plan concreto para frenar este proceso, que parece inevitable3. A ello se suma un riesgo distinto, aunque relacionado: lo que BOSTROM llamó en 2006 el singleton, un orden mundial con un único centro de decisión. Un orden así podría resolver problemas de coordinación que hoy parecen imposibles, pero cualquier error en sus decisiones afectaría a toda la civilización a la vez4.

La lógica de la carrera y la tentación del primer golpe

La dimensión geopolítica de este problema reside, en última instancia, en la electricidad5 y en la brecha existentes entre potencias. En 2025, China generó más de 10.000 TWh frente a los poco más de 4.500 de Estados Unidos, unas 2,3 veces más, cuando diez años antes la proporción era de 1,46, e incluso algunas voces proyectan una ventaja de 10 veces más en una década5.

Algunos autores opinan que una estrategia de cooperación (chips por energía) solventaría este problema, pero lo observado es un juego de suma cero sobre la “carrera de la IA”. Pero ¿Cuándo termina esa carrera? Si la ventaja se iguala, quien va ganando puede verse tentado a dar el primer golpe, como usar una superinteligencia para neutralizar completamente la capacidad de respuesta del adversario5.

No se trata de un pensamiento de ciencia ficción. Algunos artículos clave en el tema afirman que una inteligencia artificial superinteligente podría lograr una ventaja militar decisiva, hasta el punto de neutralizar la disuasión nuclear de su adversario7. El hecho de que esta idea aparezca en público ya supone, por sí solo, que si una de las partes la cree factible, es suficiente para que la otra actúe como si lo fuera.

La respuesta a este dilema proviene precisamente de la doctrina de la disfunción mutua asegurada (MAIM) que sostiene que el “primer golpe” es menos factible de lo que puede parecer, pues antes de poder realizarse, cualquier proyecto sería saboteado por sus rivales. Al igual que la destrucción mutua asegurada contuvo la carrera nuclear, este problema compartido podría ser la salvación sin necesidad de acudir a herramientas normativas o tratados internacionales8. El MAIM, lejos de significar la paz, implicaría un equilibrio de amenazas que legitimaría el sabotaje mutuo, sustituyendo la tentación de dar el primer golpe mediante la normalización de golpes menores, como en las guerras actuales, donde eventos bélicos son graves pero no llegan a desestabilizar este sistema.

La historia es tan esperanzadora como sombría. En doce de dieciséis casos en los últimos quinientos años donde una potencia emergente desafió a la dominante el resultado fue la guerra, y en cuatro de ellos, no9. Durante el monopolio atómico de los EEUU muchas voces plantearon amenazar a la URSS antes de que dispusiera de la bomba10, y el primer intento de control internacional de la energía atómica (el Plan Baruch de 1946) fracasó estrepitosamente a causa de la desconfianza mutua11.

Sin embargo, la guerra preventiva (afortunadamente) no llegó, y a día de hoy podemos alegrarnos de que precisamente el acontecimiento más importante de la segunda mitad del siglo XX fuera que ningún arma nuclear volviera a usarse en conflictos bélicos12.

¿Preferir el caos?

Es curioso. Desde esta óptica, un mundo descentralizado y conflictivo sería preferible a uno donde un único actor lograra dominarlo todo mediante la IA1,2. Algunos autores, pesimistas con fundamentos, consideran que una tercera guerra mundial sería incluso deseable, calificada como el “buen resultado” frente a la dominación, y que una paz impuesta por una superinteligencia artificial sería mucho más inquietante que la propia guerra2.

HOBBES diría que, mientras los hombres viven sin poder común que los controle, se hallan en una guerra de “todos contra todos”13. Del caos histórico sólo salen los que ya tenían poder, recursos u organización. Los más débiles tienen que pagar el costo del desorden. Cuando nuestra sociedad se derrumba no gana el pueblo, sino aquellos que ya estaban preparados, por lo que desear el caos es arriesgado y parece que únicamente tiene sentido para quien no tiene nada que perder.

El planteamiento de HOBBES no se reduce a Leviatán o anarquía. Contra la idea de que la única respuesta racional en el dilema del prisionero es la traición1, AXELROD mostró que la cooperación recíproca surge entre egoístas sin autoridad central, siempre que la cooperación se dé entre las mismas personas y muchas veces14. De ahí nuestra propia civilización.

Entre el poder único que todo lo controla (“la jaula”, según HOTZ) y la anarquía donde ganan los fuertes existe un espacio sensato que aquí se discute. Algunos proponen salvar el mundo dando todo el poder a pequeños grupos y confiando en ellos, mientras que otros proponen seguir avanzando en la tecnología dando total prioridad a la protección del ciudadano, no a su control15. Sus defensores saben que la gobernanza descentralizada es extremadamente complicada15 pero experiencias previas demuestran que es posible hacerlo, sea en los sistemas policéntricos o sea en el pluralismo técnico y político, mutuamente beneficiados16. Ni jaula, ni guerra, sino un orden repartido.

Qué cabe hacer

A juicio del que suscribe, cabe reprochar a los sombríos su fatalismo, que opinan con plena convicción de que el rumbo de la dominación y la guerra ya está fijado de antemano2. Precisamente ese fatalismo, justificado en muchos casos, está sostenido en la premisa de que la IA transformará el mundo en cuestión de pocos años, lo que de hecho es discutido. Una corriente académica sostiene precisamente que la IA es una tecnología transformadora pero “normal”, como lo fue la electricidad, cuyo verdadero impacto se materializará en décadas y no años, pues ello dependerá del ritmo de cambio de las personas, las instituciones y las organizaciones17. Así lo creen las estimaciones macroeconómicas más prudentes18.

Si esta visión es la correcta, tanto el miedo como la urgencia están exagerados, y las intervenciones drásticas basadas en el temor a la existencia de una superinteligencia podrían empeorar nuestra adaptación17. No tenemos por qué defender esta postura a capa y espada, pues nuestro futuro se presenta como bifurcaciones que dependen de muchas decisiones que tendremos que tomar, no como destinos inapelables. Recordemos que precisamente, si algo distingue al ser humano, ha sido su capacidad de adaptación y cada día es una manifestación más de ello.

La regulación es necesaria pero insuficiente. Es importante evaluar, obligar a mecanismos de transparencias, establecer responsabilidad por los daños que causen estas tecnologías y amortiguar el golpe económico que produce, mediante políticas sociales. Sin embargo, la limitación es evidente. La UE ha tenido que aplazar las obligaciones del RIA para los sistemas de alto riesgo, en gran parte, hasta diciembre de 2027 y agosto de 2028 ante el evidente retraso de las normas técnicas y creación de autoridades19. De nuevo, la norma va muy por detrás de la técnica, desde Europa sus competencias apenas se limitan a lo económico cuando las consecuencias afectan en prácticamente todos los ámbitos de la vida de los ciudadanos y, especialmente, otorga poder a un Estado que es, precisamente, uno de los candidatos a la concentración que se pretende evitar.

La respuesta no puede ser únicamente normativa, sino que necesita acuerdos entre potencias que reduzcan la tentación de ese “primer golpe”. Existen primeros pasos (Declaración de Bletchley, que precisamente aboga por la cooperación internacional20) y la experiencia nuclear enseña que los primeros intentos de acuerdos fallan, pero acaban adoptándose11,8. Ello exige avances técnicos que nos permitan comprender estos sistemas, verificarlos, y preservar un poder distribuido (como la competencia, el código abierto, las instituciones independientes y la alfabetización de la ciudadanía).

Pero aunque los pesimistas no tengan necesariamente razón, sí que plantean las preguntas correctas: quién controla la IA, qué ocurre con aquellos que dejan de ser necesarios y cómo evitar que el orden se convierta en nuestra propia prisión. Pero la respuesta no es sencilla, de la misma forma que se tardó décadas en construir el tabú nuclear12.

Conseguir un orden distribuido implicará que exista una generación dispuesta a vencer la incertidumbre, y esa generación ya existe: somos nosotros. Los primeros signos, tanto de caos como de control, ya están a la vista, y no esperaremos de brazos cruzados a que se confirmen.

Por la humanidad, es hora de ponerse a trabajar.

Notas

  1. G. Hotz, "Pray for Chaos", 1 nov. 2026. https://geohot.github.io/blog/jekyll/update/2026/11/01/pray-for-chaos.html ↩
  2. G. Hotz, "My Empire of Dirt", 17 nov. 2026. https://geohot.github.io/blog/jekyll/update/2026/11/17/my-empire-of-dirt.html ↩
  3. J. Kulveit, R. Douglas, N. Ammann, D. Turan, D. Krueger y D. Duvenaud, "Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development", arXiv:2501.16946, 2025. ↩
  4. N. Bostrom, "What is a Singleton?", Linguistic and Philosophical Investigations, 5(2), 2006, pp. 48-54. https://nickbostrom.com/fut/singleton ↩
  5. G. Hotz, "First Strike", 13 nov. 2026. https://geohot.github.io/blog/jekyll/update/2026/11/13/first-strike.html ↩
  6. Ember, Yearly Electricity Data (generación total por país, 2015-2025), 2026. https://ember-energy.org/data/yearly-electricity-data/. Elaboración propia. ↩
  7. L. Aschenbrenner, Situational Awareness: The Decade Ahead, 2024, caps. IIIc-IIId. https://situational-awareness.ai ↩
  8. D. Hendrycks, E. Schmidt y A. Wang, Superintelligence Strategy, arXiv:2503.05628, 2025, caps. 3-4. ↩
  9. G. Allison, "The Thucydides Trap: Are the U.S. and China Headed for War?", The Atlantic, 24 sept. 2015 (reproducido por el Belfer Center, Harvard Kennedy School). ↩
  10. El caso más citado es el de Bertrand Russell, que en un discurso en la Westminster School (20 nov. 1948) pareció sostener que la amenaza de guerra permitiría a EE. UU. forzar a la URSS a aceptar el Plan Baruch. Su alcance —amenaza condicional o defensa de un ataque real— sigue discutido: véase "Did Russell Advocate Preventive Atomic War against the USSR?", Russell: The Journal of Bertrand Russell Studies, https://mulpress.mcmaster.ca/russelljournal/article/view/2014; y R. Perkins Jr., "Bertrand Russell and Preventive War", ibid. Russell abandonó esa posición tras la primera prueba atómica soviética (1949) y defendió después el desarme mutuo. ↩
  11. U.S. Department of State, Office of the Historian, "The Acheson-Lilienthal & Baruch Plans, 1946". https://history.state.gov/milestones/1945-1952/baruch-plans ↩
  12. T. C. Schelling, "An Astonishing Sixty Years: The Legacy of Hiroshima", conferencia Nobel, 8 dic. 2005. https://www.nobelprize.org/uploads/2018/06/schelling-lecture.pdf ↩
  13. T. Hobbes, Leviathan, 1651, cap. XIII. Traducción propia a partir de la edición de Project Gutenberg (n.º 3207). ↩
  14. R. Axelrod, The Evolution of Cooperation, Basic Books, 1984; resumido por el autor en "The Evolution of Cooperation", en A. Gromyko y M. Hellman (eds.), Breakthrough: Emerging New Thinking, Walker, Nueva York, 1988, pp. 185 y ss. ↩
  15. V. Buterin, "My techno-optimism", 27 nov. 2023. https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html ↩
  16. E. Ostrom, "Beyond Markets and States: Polycentric Governance of Complex Economic Systems", conferencia Nobel, 8 dic. 2009. https://www.nobelprize.org/uploads/2018/06/ostrom_lecture.pdf ↩
  17. A. Narayanan y S. Kapoor, "AI as Normal Technology", Knight First Amendment Institute, Columbia University, 2025. https://knightcolumbia.org/content/ai-as-normal-technology ↩
  18. D. Acemoglu, "The Simple Macroeconomics of AI", NBER Working Paper 32487, mayo 2024. ↩
  19. Reglamento (UE) 2024/1689, de 13 de junio de 2024 (Reglamento de Inteligencia Artificial), DOUE L de 12 jul. 2024; modificado por el Reglamento (UE) 2026/1744, de 8 de julio de 2026, considerando 40. ↩
  20. The Bletchley Declaration by Countries Attending the AI Safety Summit, 1-2 nov. 2023. https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration ↩

AID Framework: Artículo original del autor. Se ha utilizado Claude Opus 5.5 para dar formato, establecer su contenido como artículo de esta web y organizar la bibliografía. Se ha utilizado GPT Images 2.6 para las imagenes.