“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”. Son las palabras de Dario Amodei, cofundador y director general de Anthropic, empresa responsable de Claude, en su ensayo “We must Pace The Frontier” (Debemos ralentizar la frontera), publicado en septiembre pasado.
Tras semanas de advertencias procedentes de empleados de la propia compañía sobre los riesgos extremos asociados al desarrollo de sistemas de inteligencia artificial, las declaraciones de Amodei suponen un punto de inflexión en la industria de la inteligencia artificial. Por primera vez, un laboratorio se compromete a adoptar medidas de contención y seguridad unilaterales sin una coordinación previa.
Los reclamos de Amodei recibieron un aplauso inmediato por parte del mundo tecnológico, contando con el apoyo de figuras como Sam Altam (OpenAI) y Elon Musk (xAI). Los más grandes parecen estar de acuerdo en priorizar la seguridad frente a la velocidad; sin embargo, ¿a qué se debe este despertar moral?
Amodei identifica dos riesgos principales. El primero, es el recursive self-improvement, la posibilidad de que sistemas avanzados participen de forma autónoma en su propia mejora y en el desarrollo de modelos sucesores. El segundo remite al incidente OpenAI-Hugging Face (OAI-HF) de julio de este año, en el que varios agentes autónomos de OpenAI actuaron de forma coordinada, sortearon barreras de seguridad y accedieron sin autorización a sistemas de la plataforma Hugging Face.
La amenaza parece real, la narrativa convincente y, quizá, también conveniente.
Las llamadas a ralentizar llegan en un momento particularmente incómodo para la industria, marcado por la llamada Meseta de Datos o Data Plateau (el progresivo agotamiento de datos humanos de alta calidad para entrenar nuevos modelos) y por el creciente coste económico de seguir ampliando la frontera, sin que esté claro que la inversión se traduzca al mismo ritmo en mejoras de capacidad y rentabilidad.
Del mismo modo, se especula que esta alarma puede servir para que los grandes laboratorios de IA de Estados Unidos consoliden su posición regulatoria y endurezcan las barreras de entrada a competidores más pequeños.
La competencia entre Estados que han convertido la inteligencia artificial en una cuestión de poder estratégico definirá equilibrio de poder de las próximas décadas
A estas preocupaciones técnicas y económicas se suma otra menos visible: la responsabilidad. Las compañías que desarrollan los modelos operan en un sistema regulatorio fragmentado, pero conocen mejor que nadie los riesgos asociados a sus sistemas. Si esos riesgos llegan a materializarse, la ausencia de una norma internacional clara no elimina la cuestión de la responsabilidad jurídica, por lo que la ralentización y la autorregulación no son solo una cuestión de seguridad, sino que es también una forma de anticiparse a un escenario en el que las exigencias jurídicas puedan llegar antes que una regulación coherente.
Ahora bien, fuere cual fuere el motivo, las grandes tecnológicas parecen tener motivos suficientes para actuar con prudencia. Entonces, ¿qué se lo impide exactamente ?
La respuesta está en la gran carrera tecnológica del siglo XXI.
La lógica de la carrera por la IA
La inteligencia artificial ya no es solo una disputa por desarrollar el mejor modelo. Detrás de la competencia entre empresas, aparece otra más amplia: la competencia entre Estados que han convertido la inteligencia artificial en una cuestión de poder estratégico que definirá equilibrio de poder de las próximas décadas.
Es este el momento en el que la IA deja de ser una cuestión empresarial y se convierte en una cuestión de gobernanza internacional; la preocupación de que un rival pueda usar la IA de una forma inesperada es más que suficiente para crear inseguridad, y con ella, un clásico dilema de seguridad. El problema es que nadie quiere ser el primero en frenar si cree que los demás van a seguir acelerando.
La inteligencia artificial genera especial incertidumbre, ya que aún es incierto cómo estos avances pueden cambiar la naturaleza de los conflictos y su poder potencial. Su propia naturaleza agrava esta dinámica, ya que se trata de una tecnología que no separa claramente su dimensión civil de su dimensión militar, siendo los mismos avances que permiten automatizar tareas, mejorar procesos o desarrollar la medicina los que se pueden utilizar para ciberoperaciones, inteligencia, vigilancia, sistemas autónomos o apoyo a la toma de decisiones militares.
Esto es especialmente relevante en el caso de potencias tecnológicas por antonomasia, China y Estados Unidos, que ya han declarado que no están dispuestos a frenar los avances de la IA. La administración de Trump ha mostrado hostilidad a cualquier regulación que pueda implicar ventajas a Pekín, mientras que el gobierno chino ha calificado la propuesta de Amodei como “alarmista”.
La lógica recuerda inevitablemente a la carrera nuclear del siglo XX, tanto que investigadores como Haydn Belfield (Google Deepmind) han propuesto adaptar el Tratado de No Proliferación a la IA. Y aunque existen paralelismos, la gobernanza nuclear parte de una dimensión física relativamente clara, con materiales e instalaciones identificables y verificables, mientras que en la IA las capacidades son más difíciles de medir, pueden difundirse por software y evolucionan con rapidez.
Además, una de las diferencias esenciales en la gobernanza de estas dos materias es el actor que controla la tecnología, ya que las armas nucleares fueron reguladas en una época caracterizada por el control estatal, mientras que la IA ha sido desarrollada por actores privados cuya capacidad de innovación ha avanzado con mayor rapidez que los mecanismos públicos diseñados para supervisarlas.
Cuanto más transnacional se vuelve la tecnología, menos favorable parece el contexto para construir reglas verdaderamente globales
El resultado es una paradoja en la que, por un lado, todavía no existe consenso sobre qué capacidades pueden controlarse eficazmente, y por otro, que, aunque todos los actores compartan cierta preocupación por los riesgos de la inteligencia artificial, ninguno tiene incentivos suficientes para frenar unilateralmente. Esto implica determinar no solo qué debe regularse, sino también quién debe hacerlo, sobre qué actores y con qué mecanismos de supervisión y verificación. En otras palabras, el problema deja de ser únicamente tecnológico y pasa a ser institucional.
Es precisamente en este punto donde la regulación adquiere una dimensión central. No basta con reconocer los riesgos ni con apelar a compromisos voluntarios de las empresas.
La fragmentación de la gobernanza internacional
A este contexto se le suma un problema todavía mayor: la inteligencia artificial ha alcanzado una dimensión global en un momento de especial debilidad del sistema multilateral, y cuanto más transnacional se vuelve la tecnología, menos favorable parece el contexto para construir reglas verdaderamente globales.
Las instituciones creadas para gestionar problemas colectivos afrontan profundas divisiones geopolíticas, crecientes incumplimientos del Derecho Internacional y una progresiva pérdida de confianza entre Estados. Naciones Unidas reconoce abiertamente que la cooperación internacional se encuentra sometida a una presión sin precedentes, mientras la lógica de bloques y las respuestas unilaterales ganan terreno.
En este sentido, la gobernanza de la inteligencia artificial exige precisamente lo que hoy escasea: cooperación, confianza y capacidad para acordar límites comunes.
Sin embargo, esto no significa que exista un vacío institucional absoluto. En 2024, los 193 Estados miembros de Naciones Unidas adoptaron el Pacto Digital Global, que parte de una premisa clara: “ningún país puede afrontar por sí solo las oportunidades y los retos de la IA”. Ese proceso dio lugar en 2025 al Global Dialogue on AI Governance, un espacio que reúne a los 193 Estados junto con el sector privado, la sociedad civil, la academia y la comunidad técnica para compartir buenas prácticas y construir enfoques comunes de gobernanza.
El problema es que las medidas se reducen a un espacio de diálogo y coordinación, no un órgano regulador ni de ejecución. Por ello, estas iniciativas pueden generar consensos y estándares, pero no imponer por sí mismas obligaciones comunes ni garantizar su cumplimiento.
Otros actores han optado por avanzar por su cuenta. La Unión Europea constituye el ejemplo más ambicioso: el AI Act ha convertido determinadas obligaciones de transparencia, evaluación de riesgos, supervisión y notificación de incidentes en exigencias jurídicas vinculantes para quienes operan en el mercado europeo. El Consejo de Europa ha avanzado también mediante su Convenio Marco sobre Inteligencia Artificial, el primer tratado internacional jurídicamente vinculante específicamente dedicado a esta tecnología.
Aun así, ninguna de estas iniciativas resuelve por sí sola el problema central. La Unión Europea puede imponer condiciones a quienes operen en su mercado y el Convenio del Consejo de Europa vincula a sus Estados participantes, pero ninguno de estos mecanismos garantiza que todos los actores estén sujetos a los mismos límites.
Entonces, si la autorregulación empresarial no es suficiente, la regulación nacional está fragmentada y no existe una autoridad internacional con verdadero poder de supervisión, ¿está la IA fuera de control?
El reto de construir un control común
El verdadero problema no es la ausencia total de mecanismos de control, sino su dispersión. Esta dispersión es fruto de una especie de inercia regulatoria, en la que existe una presión para regular preventivamente, pero los reguladores carecen todavía del conocimiento necesario.
Esa dispersión conduce a la fragmentación, es decir, a la multiplicación de legislaciones con objetivos y alcances diferentes, agravada por la competición entre los diferentes Estados por liderar la IA. Estados Unidos y China reflejan bien esta tensión: mientras China articula su regulación alrededor del desarrollo económico, la competencia internacional y el control de determinados usos de la tecnología, Estados Unidos combina exigencias de seguridad, privacidad, transparencia y responsabilidad con el objetivo de preservar su liderazgo tecnológico. Paralelamente, han proliferado mecanismos de autorregulación empresarial, códigos éticos, sandboxes e instrumentos de soft law.
La IA no está completamente fuera de control, y la pregunta no es si alguien está al volante, sino si seremos capaces de construir las reglas antes de que sea demasiado tarde
Dejar el control exclusivamente en manos de Estados y empresas supone permitir que intereses particulares contribuyan a definir los límites de la tecnología: las empresas pueden priorizar beneficios y competitividad, mientras que los Estados pueden anteponer la seguridad nacional o el liderazgo estratégico. Ampararse en diferentes regulaciones generaría una inseguridad jurídica generalizada, y, además, insuficiente frente a una tecnología esencialmente transnacional.
Los antecedentes en materias como el cambio climático o las aguas transfronterizas demuestran que construir regímenes jurídicos internacionales puede requerir años o incluso décadas, algo difícilmente compatible con el avance rápido y constante de la IA. Aun así, esto no convierte al Derecho Internacional en inútil: los Estados cumplen por múltiples razones, entre ellas la reciprocidad, el acceso a financiación, los beneficios derivados de la cooperación o el coste reputacional del incumplimiento.
La IA presenta, además, una dificultad singular: incide prácticamente en todas las ramas del Derecho Internacional (comercio, derechos humanos, Derecho Internacional Humanitario, Derecho Penal Internacional, propiedad intelectual y Derecho económico internacional) y difumina las fronteras entre actores públicos y privados.
Nuevos retos exigen nuevas soluciones y, en esta arquitectura emergente del Derecho Internacional, cada actor debe asumir con claridad su función. Los Estados continúan siendo esenciales porque pueden crear obligaciones internacionales y trasladarlas posteriormente a sus ordenamientos internos. Las empresas ocupan una doble posición: son objeto de regulación, pero también actores normativos imprescindibles por el conocimiento técnico y la infraestructura que concentran. La sociedad civil desempeña una función de vigilancia, defensa de derechos y configuración de la agenda regulatoria. Por último, las organizaciones internacionales tienen un rol clave como espacios de diálogo y consenso, que es precisamente el nexo necesario para unificar la regulación ante los diferentes intereses y perspectivas de actores públicos y privados.
La cohesión e interacción entre todos no consiste únicamente en redactar una “nueva ley”, sino en crear un bloque capaz de responder a preguntas que todavía están abiertas: ¿Cuál es la responsabilidad de cada actor? ¿Quién responde por los sistemas autónomos? ¿A quién deben atribuirse sus decisiones? ¿Quién supervisa el cumplimiento y qué ocurre cuando alguien decide ignorar las reglas?
En este escenario el Derecho Internacional sigue siendo indispensable, y la crisis del multilateralismo no elimina esa necesidad, al contrario, la hace más evidente. Aunque los consensos sean difíciles de alcanzar, el Derecho Internacional continúa ofreciendo el marco común necesario para armonizar y crear un lenguaje común.
Posiblemente la respuesta no llegue ni de una única autoridad ni de un gran tratado universal capaz de contener todas las respuestas. Lo más realista es pensar en una construcción progresiva, en la que la acumulación de normas, estándares y prácticas vaya conformando una nueva arquitectura jurídica transnacional y, quizá, desemboque algún día en una autoridad internacional con mayores capacidades de coordinación y supervisión.
De vuelta a la analogía nuclear, el siglo XX necesitó Hiroshima y Nagasaki (y otros tantos desastres) para comprender que ciertas tecnologías no pueden someterse únicamente a la lógica de la competencia. La IA no está completamente fuera de control, y la pregunta no es si alguien está al volante, sino si seremos capaces de construir las reglas antes de que sea demasiado tarde.