Evan Hubinger, investigador sénior y responsable de ciencia de alineación de Anthropic, estima en más del 10% la probabilidad de que una IA avanzada provoque la extinción humana durante la próxima década. Sus declaraciones siguieron a la renuncia de otro investigador que acusó al sector de actuar de forma irresponsable.
Hubinger hizo pública esa estimación al comentar en X las advertencias de Jacob Coxon, exinvestigador de Anthropic. Coxon había sostenido que las empresas de inteligencia artificial no están actuando con responsabilidad y que la tecnología podría “matarnos a todos antes de que acabe la década”.
El responsable de alineación de Anthropic afirmó que él y muchos de sus colegas “creen sinceramente que la IA podría acabar con todos los seres humanos”. La alineación es el área dedicada a lograr que los modelos hagan lo que les piden las personas y mantengan sus objetivos dentro de valores y restricciones humanas.
Tras la repercusión de sus mensajes, Hubinger precisó que el riesgo de los modelos actuales es “bajo”, de acuerdo con el informe de riesgos más reciente de Anthropic. Su inquietud se centra en una eventual superinteligencia derivada de procesos de automejora recursiva, en los que los sistemas se entrenan, optimizan y mejoran de forma acelerada. Según el investigador, ese proceso “está ocurriendo más rápido de lo que pensábamos”.
Las advertencias se producen dentro de Anthropic, una compañía estadounidense fundada por antiguos directivos e investigadores de OpenAI y desarrolladora de Claude. La empresa sitúa la seguridad, la robustez y la investigación de alineación entre sus ámbitos de trabajo, mientras compite con otros grupos que desarrollan modelos fundacionales y sistemas de IA generativa avanzados.
La discusión ha incorporado escenarios temporales más inmediatos. Según declaraciones recogidas por otros medios y citadas en la información, algunos supuestos particularmente rápidos contemplan que la evolución de las capacidades de los modelos pueda dificultar su gobernanza y contención hacia finales de 2027. Entre colegas de Hubinger se emplean términos como crunchtime y endgame para describir esa fase crítica.
El debate coincide con las llamadas de otros responsables de Anthropic a establecer mecanismos de control para la IA avanzada. Dario Amodei, consejero delegado de la compañía, advirtió en enero de 2026 sobre la posible llegada de una IA “superhumana” tan pronto como 2027, mientras la Unión Europea avanza con la aplicación del Reglamento de Inteligencia Artificial para sistemas de alto riesgo y futuros modelos fundacionales de gran tamaño.
