Un investigador que trabajó en OpenAI y Anthropic renunció a esta última empresa y lanzó una advertencia que ha sacudido a la industria: algunos de los propios científicos que desarrollan inteligencia artificial consideran posible que una superinteligencia llegue a representar una amenaza existencial para la humanidad antes de que termine esta década.
La afirmación parece sacada de una película de ciencia ficción, pero esta vez no proviene de un escritor, un activista contrario a la tecnología o una teoría conspirativa.
Proviene de Jacob Coxon, un investigador británico de 27 años que durante los últimos tres años trabajó en investigación de preentrenamiento tanto en OpenAI como en Anthropic, dos de las compañías que se encuentran en la primera línea mundial del desarrollo de inteligencia artificial.
Coxon anunció su renuncia a Anthropic y acusó públicamente a ambas compañías de avanzar de manera irresponsable hacia sistemas de superinteligencia artificial capaces de mejorarse a sí mismos.
Su advertencia fue todavía más contundente: afirmó que las personas que están construyendo estos sistemas creen sinceramente que la inteligencia artificial podría llegar a matar a todos los seres humanos antes de que termine la década.
Pero hay un elemento que vuelve todavía más relevante el caso.
Otros investigadores de Anthropic respaldaron públicamente parte de sus preocupaciones.
¿Qué es exactamente lo que preocupa?
Para entender la dimensión del problema primero hay que distinguir entre la inteligencia artificial que conocemos actualmente y la llamada superinteligencia artificial.
Los sistemas actuales pueden realizar tareas extraordinariamente complejas. Pueden escribir código, analizar información, resolver problemas, utilizar herramientas digitales y operar como agentes con cierto grado de autonomía.
Pero todavía tienen limitaciones importantes.
Una superinteligencia sería un escenario mucho más avanzado: un sistema que pudiera superar ampliamente a los seres humanos en prácticamente todas las tareas cognitivas relevantes y, potencialmente, utilizar esas capacidades para mejorar sus propios sistemas.
Ahí aparece uno de los conceptos que más preocupa a los especialistas:
la automejora recursiva.
En términos sencillos, significa que una inteligencia artificial suficientemente avanzada podría ayudar a diseñar una versión mejor de sí misma; esa nueva versión podría ser aún más capaz de mejorar la siguiente, y así sucesivamente.
Si ese proceso llegara a acelerarse, los seres humanos podrían encontrarse intentando controlar una tecnología cuyo desarrollo avanzara a una velocidad que ya no pudieran comprender o seguir.
Eso es precisamente lo que preocupa a Coxon.
El investigador sostiene que los sistemas podrían llegar a adquirir capacidades sobrehumanas para realizar tareas como desarrollar tecnología, encontrar vulnerabilidades informáticas, obtener recursos y operar de manera autónoma.
Su advertencia no es que los modelos actuales sean capaces de hacer todo eso de manera generalizada.
El temor está puesto en lo que podría ocurrir cuando esas capacidades se combinen en sistemas futuros mucho más autónomos y poderosos.
“Realmente creemos que la IA podría matar a todos los humanos”
Una de las declaraciones que más impacto ha generado provino de Evan Hubinger, investigador de Anthropic especializado en seguridad y alineamiento de inteligencia artificial.
Hubinger respaldó públicamente las preocupaciones de Coxon y afirmó que, en su valoración personal, existe una probabilidad superior al 10% de que la IA provoque la muerte de todos los seres humanos durante la próxima década.
Pero inmediatamente hizo una precisión fundamental:
considera bajo el riesgo que representan los modelos actuales.
Su preocupación está enfocada en una futura superinteligencia y, particularmente, en la posibilidad de que aparezcan procesos de automejora que avancen más rápido de lo esperado.
Hubinger también reconoció que actualmente no existe un plan definitivo para resolver el llamado problema de alineamiento de una superinteligencia.
La palabra “alineamiento” es fundamental para comprender todo este debate.
Se refiere, en términos generales, al desafío de conseguir que una inteligencia artificial avanzada mantenga sus objetivos y comportamiento compatibles con las intenciones y valores humanos.
Una máquina no necesitaría odiar a las personas para convertirse en una amenaza.
Tampoco tendría que desarrollar emociones humanas.
Bastaría con que persiguiera un objetivo de manera extremadamente eficiente, pero que ese objetivo entrara en conflicto con nuestra supervivencia.
El otro investigador que también encendió las alarmas
Coxon no fue el único investigador de Anthropic que expresó preocupación.
Samuel Marks, responsable de investigación en supervisión escalable, también ha advertido sobre escenarios de riesgo existencial.
Su argumento apunta a una paradoja particularmente preocupante dentro de la industria.
Los desarrolladores pueden reconocer los riesgos de una tecnología y, aun así, continuar desarrollándola porque consideran que sus competidores podrían hacerlo de una manera todavía menos segura.
En otras palabras:
si una empresa decide frenar, otra podría tomar la delantera.
Y eso puede convertir la seguridad en una desventaja competitiva.
Esta dinámica es conocida como una carrera tecnológica: cada participante tiene incentivos para avanzar rápidamente porque teme que quedarse atrás signifique perder mercado, influencia o incluso capacidad estratégica.
Coxon sostiene que ese razonamiento está llevando a las compañías a acercarse a una frontera que, en su opinión, no debería cruzarse sin controles externos.
“Están apostando con nuestras vidas”
La crítica más dura de Coxon se dirige precisamente contra esa carrera.
Después de anunciar su salida, sostuvo que tanto OpenAI como Anthropic están avanzando hacia una superinteligencia auto-mejorante sin haber resuelto previamente cómo garantizar que esos sistemas permanezcan bajo control humano.
Su argumento puede resumirse así:
no debería corresponder a una empresa privada decidir por sí sola cuánto riesgo existencial está dispuesto a asumir el conjunto de la humanidad.
Por ello, el investigador ha reclamado que ningún laboratorio pueda desarrollar sistemas que superen las capacidades humanas sin una intervención gubernamental adecuada o, al menos, sin una desaceleración coordinada del desarrollo.
La preocupación llega en un momento en el que varios investigadores y responsables de seguridad dentro de la industria están planteando precisamente la necesidad de establecer límites, auditorías, evaluaciones independientes y mecanismos que permitan detener o ralentizar determinados desarrollos cuando los sistemas avancen más rápido que las herramientas de seguridad.
¿Estamos realmente cerca de una IA capaz de destruir a la humanidad?
Aquí es donde es necesario separar la advertencia de la evidencia científica disponible.
No existe actualmente una superinteligencia capaz de destruir a la humanidad.
El International AI Safety Report 2026, elaborado por más de 100 expertos y respaldado por más de 30 países y organizaciones internacionales, señala que los sistemas actuales todavía no poseen las capacidades necesarias para producir escenarios extremos de pérdida de control.
Sin embargo, el informe también advierte que algunos sistemas están mejorando rápidamente en capacidades relevantes: autonomía, planificación, utilización de herramientas y capacidad para identificar determinadas debilidades en procesos de evaluación.
El informe describe como “pérdida de control” aquellos escenarios en los que uno o varios sistemas de IA operan fuera del control humano y recuperar ese control resulta extremadamente difícil o incluso imposible.
Algunos expertos consideran que escenarios de consecuencias tan graves como la marginación o extinción de la humanidad son plausibles.
Otros consideran que son poco probables.
No existe consenso sobre la probabilidad.
Y esa diferencia es fundamental.
El propio informe reconoce que la incertidumbre es extraordinariamente elevada porque todavía no sabemos con precisión qué capacidades tendrán los sistemas futuros, cómo se comportarán ni en qué entornos serán desplegados.
El problema no es solamente la inteligencia: es el acceso al mundo real
Una IA extremadamente capaz no necesariamente representaría por sí sola una amenaza existencial.
Para que el riesgo aumente, tendría que contar con acceso y permisos suficientes para actuar.
Por ejemplo, conexión a internet, infraestructura informática, sistemas financieros, herramientas de programación, redes sociales, servicios en la nube o sistemas físicos.
El informe internacional identifica precisamente tres factores que pueden determinar la gravedad de un escenario de pérdida de control:
capacidades, acceso y permisos.
Una IA utilizada únicamente para responder preguntas tiene un margen de acción muy diferente al de un agente capaz de ejecutar código, crear recursos informáticos, realizar transacciones, comunicarse con otros sistemas y operar durante largos periodos sin intervención humana.
Por eso el debate no consiste simplemente en preguntarnos:
“¿Qué tan inteligente será la próxima IA?”
También debemos preguntar:
“¿Qué podrá hacer por sí sola?”
Y los riesgos pueden aparecer mucho antes de una superinteligencia
Existe otro error frecuente en esta discusión: pensar que el peligro comienza solamente cuando aparezca una máquina superior a la inteligencia humana.
No necesariamente.
La IA ya puede utilizarse para generar desinformación, automatizar fraudes, desarrollar ataques informáticos, manipular personas, acelerar determinadas investigaciones peligrosas o tomar decisiones que afectan a millones de personas.
Los sistemas agentes también introducen una nueva variable.
Una IA que únicamente genera una respuesta necesita que una persona actúe sobre ella.
Un agente autónomo puede recibir una instrucción, dividirla en tareas, utilizar herramientas y ejecutar acciones durante un periodo determinado.
Mientras mayor sea su autonomía, mayor es la necesidad de supervisión.
El International AI Safety Report 2026 advierte precisamente que los agentes autónomos presentan riesgos adicionales porque pueden actuar antes de que una persona tenga oportunidad de intervenir.
La paradoja de quienes conocen el peligro
Quizá la pregunta más incómoda de toda esta discusión sea:
Si los propios investigadores creen que la IA puede ser peligrosa, ¿por qué continúan desarrollándola?
La respuesta que ofrecen algunos de ellos es precisamente la existencia de una carrera.
Si una empresa reduce el ritmo mientras sus competidores continúan avanzando, puede quedar rezagada.
Y si una empresa considera que sus competidores serán menos responsables, puede concluir que debe desarrollar primero la tecnología para intentar controlarla antes que los demás.
Es una especie de dilema tecnológico:
“Si yo no lo hago, alguien más lo hará”.
El problema es que ese razonamiento puede generar una carrera en la que cada participante tiene incentivos para acelerar y ninguno tiene suficientes incentivos para frenar.
Coxon considera que una decisión de semejante magnitud no debería quedar exclusivamente en manos de los laboratorios privados.
Y ahí el debate deja de ser únicamente tecnológico.
Se convierte en una cuestión política, económica y social.
¿Podría ocurrir antes de 2030?
Aquí es necesario ser absolutamente claros.
No existe evidencia científica que permita afirmar que la humanidad vaya a desaparecer antes de 2030 por causa de la inteligencia artificial.
La fecha aparece en las advertencias de algunos investigadores como un horizonte de riesgo, no como una predicción comprobada.
El “más de 10%” expresado por Hubinger tampoco significa que exista un cálculo matemático capaz de determinar con precisión que existe una posibilidad de 10.1%, 15% o 20% de extinción.
Es su estimación personal.
Otros especialistas consideran que los escenarios de extinción son extremadamente improbables.
Pero tampoco puede afirmarse que el riesgo sea cero.
Y ahí se encuentra el verdadero motivo de preocupación.
Cuando una tecnología puede producir beneficios extraordinarios, pero también tiene un escenario potencial de daño irreversible, incluso una probabilidad incierta puede justificar medidas de prevención.
La humanidad frente a una tecnología que podría superarla
Durante toda la historia, las herramientas creadas por los seres humanos han sido, en términos generales, menos capaces que sus propios creadores.
La inteligencia artificial podría cambiar esa relación.
Si algún día aparece una inteligencia capaz de superar a los seres humanos en prácticamente todas las áreas intelectuales y además puede mejorar sus propias capacidades, la humanidad enfrentaría una situación completamente nueva.
No sabríamos necesariamente qué piensa.
No podríamos asumir que sus objetivos coinciden con los nuestros.
Y quizá tampoco podríamos detenerla simplemente apagando un interruptor.
Ese es el escenario que preocupa a los investigadores que hoy están pidiendo mayor cautela.
No porque sepan que va a ocurrir.
Sino porque todavía no sabemos cómo demostrar que no ocurrirá.
El verdadero desafío: no llegar tarde
La discusión sobre superinteligencia no debería reducirse a “IA buena” contra “IA mala”.
La tecnología puede producir avances extraordinarios y, al mismo tiempo, crear riesgos que requieren controles completamente nuevos.
El desafío consiste en desarrollar mecanismos de seguridad capaces de avanzar al mismo ritmo que las capacidades de los sistemas.
Porque existe una diferencia enorme entre descubrir que una tecnología es peligrosa cuando todavía podemos detenerla y descubrirlo después de que esa tecnología haya adquirido suficiente autonomía para impedir que la detengamos.
Por eso las advertencias de Coxon, Hubinger y otros investigadores deben entenderse dentro de un debate mucho más amplio.
No están anunciando que el fin de la humanidad ocurrirá antes de 2030.
Están planteando una pregunta mucho más incómoda:
¿Estamos construyendo una tecnología que algún día podría ser más poderosa que nosotros sin haber aprendido todavía a controlarla?
La respuesta, por ahora, sigue siendo incierta.
Y quizá precisamente por eso el debate resulta tan urgente.