Superinteligencia vs. IA y la Guerra de los Tronos Algorítmicos: Voces Expertas ante el Riesgo Civilizatorio (2a parte)

 En el apartado anterior, nos percatamos de las voces expertas que nos advierten sobre las actuales posturas geopolíticas de las que hasta ahora, son consideradas el campo de batalla comercial entre las potencias que están concentradas en la producción de la inteligencia artificial: E.U. y China; en este apartado podremos construir la siguiente metáfora de análisis, "el espejo roto de la gobernanza", visto desde cómo Europa expone en sus voces expertas ante el riesgo existencial y los daños que ya están ocurriendo con la implementación de esta tecnología digital disruptiva.

Hay un momento en la historia de cualquier tecnología transformadora en el que la pregunta deja de ser ¿Qué puede hacer? y se convierte en ¿quién decide lo que hace, en nombre de quién, y con qué consecuencias para los que no fueron consultados? Con la inteligencia artificial de frontera, ese momento llegó -según la evidencia que este apartado analiza- no en el futuro especulativo que proyectan los escenarios de AI 2027 (Kokotajlo et al., 2025), sino en el presente inmediato del 2026. Y la paradoja que atraviesa el debate europeo -qué es, por ahora, el más articulado institucionalmente en el mundo- es que las preguntas más urgentes sobre la IA no se responden con las mismas herramientas: la pregunta sobre los riesgos existenciales que vendrían requiere imaginación prospectiva; la pregunta sobre los daños que ya están ocurriendo requieren de un marco político  y jurídico concreto.

Esto se refiere al documento publicado sobre el International Safety Report 2026 , considerado el mayor esfuerzo científico global y también, su primer derrota política (Bengio et al., 2026). Dicho documento fue respaldado por más de 100 expertos de más de 30 países y organizaciones internacionales, entre ellas la ONU, la OCDE y la unión Europea. Es una colaboración que señala sobre la seguridad de IA jamás realizada, y su conclusión central es inequívoca: las capacidades de IA están avanzando más rápido que los marcos de gobernanza diseñados para gestionarlas, y esa brecha se está ampliando.

Sin embargo, el acontecimiento político que acompañó la publicación del Reporte no fue tanto su contenido sino su recepción. Estados Unidos declinó endorsar el documento pese a haber respaldado la primera edición del 2025 y haber proporcionado retroalimentación en borradores anteriores. La retirada se alinea con movimientos más amplios de la política estadounidense de principios de 2026. Lo que reveló en realidad no fue un desacuerdo técnico sobre los contenidos de dicho documento -que los Estados Unidos ayudó a producir- sino una decisión estratégica: cuando la gobernanza global de IA empieza a tener peso científico real, el actor que más se beneficia de la ausencia de la regulación internacional se retira de la mesa.

¿Puede considerarse legítimo un marco global de gobernanza de la IA cuando el principal productor de sistemas de frontera ha decidido deliberadamente no reconocerlo? Si el Reporte no cuenta con el aval del actor que concentra aproximadamente el 70% del poder computacional mundial dedicado a la IA, su función real pasa de ser un instrumento de gobernanza a ser un documento de denuncia.

El Reporte distingue tres registros de riesgo: de lo que ya ocurre a lo que podría ocurrir, el cual comprenden parte del debate político con consecuencias directas sobre qué se regula, con qué urgencia, y quién paga el costo de no regular.

La primer categoría señala sobre los riesgos de uso malicioso. Aquí el Reporte documenta evidencia ya no especulativa sino concreta: en una competición mayor de ciberseguridad, una gente identificó el 77% de vulnerabilidades en software real, el 5% de más de 400 equipos, en su mayoría humanos. En el dominio biológico, tres desarrolladores líderes de IA aplicaron salvaguardas mejoradas a sus nuevos modelos porque su pruebas internas no podían descartar la posibilidad de que estos modelos pudieran ser mal utilizados para ayudar a crear armas biológicas. Esto no es un escenario futuro: es una reacción técnica que aplica ahora mismo.

La segunda categoría son los riesgos del malfuncionamiento -fallos no intencionales-. El Reporte aborda escenarios en el que los sistemas de IA pueden desarrollar la capacidad de evadir la supervisión, ejecutar planes a largo plazo y resistir intentos de apagarlos. La tercer categoría son los riesgos sistémicos: las perturbaciones en el mercado laboral, concentración de poder computacional, y la "brecha de evaluación" (evaluation gap): el rendimiento en las pruebas previas al despliegue no predice de manera confiable la utilidad o el riesgo en el mundo real.

Aquí es donde puede observar la fractura del debate: el riesgo existencial como ideología o como advertencia legítima. Esto nos indica que el campo del debate europeo está cruzado por una tensión que va más allá de lo técnico. Meredith Withaker -presidenta de la empresa Signal- enunció en el Web Summit de Lisboa (noviembre de 2025) la formulación más contundente: "No necesitamos una IA que nos mate a todos en diez años para saber que la IA ya nos está matando hoy, a través del desempleo, la vigilancia, la desinformación y la concentración de poder. El verdadero peligro no es una ficción futura; es el régimen de poder que ya ha sido instalado" (citado en airXiv 2512.04119, 2025). Por su parte, Shoshana Zuboff (2020) otra voz experta, converge en el mismo diagnóstico: el peligro no reside en una superinteligencia que podría matarnos mañana, sino en el régimen de poder que ya ha sido instalado hoy.

Esta crítica tiene una fuerza específica: si la narrativa del riesgo existencial funciona como un "cuento de fantasmas que son efectivamente anuncios de una tecnología que solo unas pocas empresas poseen", entonces el resultado político de agitar el miedo al apocalipsis no es la regulación más estricta sino la justificación para que solo los actores que ya concentran el poder puedan producir y controlar la tecnología suficientemente poderosa.

¿Hasta qué punto este argumento corre el riesgo de convertirse, a su vez, en su propia forma de parálisis cognitiva? Withaker y Zuboff tienen razón al señalar que la concentración de poder computacional ya está causando daño hoy. Bengio y los autores del Reporte 2026 tienen razón al señalar que los sistemas actuales ya están evadiendo mecanismos de supervisión. Esto no son argumentos opuestos: son diagnósticos sobre capas distintas del mismo fenómeno.

Aquí viene el siguiente punto de controversia: la brecha de coordinación, cuando la prevención no basta. Mangesha (2026), en "The coordination gap in frontier AI safety policies" (Segunda Conferencia LaseAI, Universidad de Amsterdam), aporta el diagnóstico más lúcido: las políticas de seguridad de IA de frontera se concentran en la prevención mientras descuidan la capacidad institucional para coordinar respuestas cuando la prevención falla. Esta brecha es estructural: las inversiones en resiliencia generan beneficios difusos, pero costos concentrados, produciendo subinversión sistemática.

Un análisis de los Frontier AI Safety Frameworks  de doce empresas encontró puntuaciones globales que oscilan entre le 34% (Anthropic), y el 8% (Cohere), con una mediana del 18% (airXiv 2512.01166, 2025). El mercado de la autorregulación produce exactamente el nivel de seguridad que no inhibe la velocidad de competir.

¿Puede la Unión Europea -con su AI Act, su AI Office y su capacidad regulatoria- llenar por si sola el vacío que deja la retirada de Estados Unidos de los marcos multilaterales y la insuficiencias de marcos corporativos voluntarios? La respuesta honesta, a la luz de la evidencia, es: no. La regulación europea puede ser una condición necesaria de la gobernanza responsable; tal vez, no pueda ser su condición suficiente.

Para intentar concluir este apartado, planteamos lo siguiente. Si la crisis de gobernanza de la IA es, en su raíz, una crisis de distribución del poder -de quién decide, quién se beneficia, quién paga los costos y quién queda excluido de todas esas conversaciones-, ¿puede una "tercera vía", construida desde el Sur Global proporcionar no solo un modelo alternativo de desarrollo tecnológico, sino también un lenguaje ético, político y civilizatorio que los actores del Norte han demostrado ser incapaces de producir?