La discusión pública sobre los riesgos de la inteligencia artificial (IA) suele oscilar entre la fascinación tecnológica y el alarmismo apocalíptico. Sin embargo, más allá de los diagnósticos presuntivos que circulan desde hace años, persiste un hecho difícil de ignorar: los riesgos no solo perduran, sino que se amplifican conforme la trayectoria de desarrollo se acelera sin una arquitectura de gobernanza global.
La percepción de riesgo tiene una fuente clara. Las tecnologías de IA nacieron como herramientas de racionalización productiva: programas diseñados para reducir cargas de trabajo humano y aumentar la eficacia de procesos industriales, administrativos y científicos. Su legitimidad inicial descansaba en esa promesa de eficiencia. Pero en el tránsito hacia modelos autónomos, capaces de aprender y retroalimentarse sin supervisión directa, se ha erosionado un componente esencial: la parametrización moral del desarrollo tecnológico.
Los tecnólogos que impulsaron las primeras iniciativas —algunos de ellos hoy críticos del rumbo que tomaron las grandes corporaciones— advirtieron que la retroalimentación de información, núcleo del aprendizaje automático, podía desbordarse si no se establecían límites éticos integrados en el diseño mismo de los sistemas. No se trataba de regular después, sino de construir desde el inicio mecanismos que impidieran que la optimización técnica se convirtiera en autonomía sin control. Ese componente moral fue desplazado por la lógica de mercado: la carrera por la eficiencia, la velocidad y la escala.
La consecuencia es evidente. Las corporaciones que lideran el desarrollo de IA operan bajo incentivos que privilegian la innovación acelerada y la captura de mercado. La “superinteligencia segura” promovida por el gobierno estadounidense no altera esta estructura: las decisiones críticas siguen en manos de magnates tecnológicos, cuyos intereses no necesariamente coinciden con los de la sociedad. Incluso si se lograra un consenso regulatorio dentro de Estados Unidos, ¿cómo se convencería a China, Rusia, Europa y otros actores para adoptar las mismas reglas?
La competencia geotecnológica ha dejado de ser un asunto doméstico. China ha desarrollado modelos de IA capaces de competir en eficiencia y escala, apoyados por subsidios estatales que pueden abaratar el acceso y expandir su influencia global. La idea de que la gobernanza puede resolverse desde un solo país es insostenible. La fragmentación regulatoria es ya un hecho, y la proliferación de modelos avanzados sin estándares comunes incrementa la probabilidad de incidentes graves, usos militares descontrolados y manipulación informativa a gran escala.
Estamos, por tanto, ante un problema que no admite soluciones parciales. La gobernanza de la IA requiere una perspectiva global, pero el sistema internacional carece de los mecanismos para construirla. No existe un régimen multilateral capaz de establecer límites, verificar capacidades, gestionar incidentes o imponer responsabilidades. La velocidad del desarrollo tecnológico supera la capacidad de los Estados para coordinarse, y la competencia entre potencias erosiona cualquier intento de cooperación.
El reto es monumental: diseñar un marco internacional que regule tecnologías cuyo alcance es planetario, cuyos actores son tanto corporaciones como gobiernos, y cuyos efectos pueden alterar sistemas económicos, políticos y militares. La alternativa —continuar con una gobernanza fragmentada y reactiva— nos deja en una situación de riesgo creciente.
Si el desarrollo de la IA prosigue su ruta descontrolada, el peligro potencial cobra posibilidades de ocurrencia muy altos. Ante ello, la pregunta inevitable es si las sociedades serán capaces de construir instituciones globales a la altura del desafío. Hasta ahora, la respuesta es incierta. Y esa incertidumbre, más que cualquier diagnóstico apocalíptico, es el verdadero riesgo que enfrentamos.