Dario Amodei sostiene que las empresas tecnológicas han minimizado durante demasiado tiempo los peligros de la inteligencia artificial y reclama reducir el ritmo de avance de los modelos más potentes para reforzar los mecanismos de seguridad.
La advertencia ya no llega únicamente desde investigadores, reguladores o voces críticas con la inteligencia artificial. Dario Amodei, cofundador y consejero delegado de Anthropic, una de las compañías que compiten en el desarrollo de los modelos más avanzados, ha acusado a la propia industria de haber ocultado durante demasiado tiempo los riesgos asociados a esta tecnología.
“Durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”, afirmó Amodei en una entrevista con CBS News publicada este domingo. El empresario aseguró que existen “peligros reales” y defendió que el rápido crecimiento de las capacidades de los sistemas de inteligencia artificial constituye una señal de alarma que obliga a reconsiderar la velocidad a la que avanza el sector.
Sus palabras llegan en un momento de intensa competencia entre los grandes laboratorios tecnológicos por desarrollar modelos cada vez más capaces. Anthropic, creadora de Claude, se encuentra precisamente entre las compañías protagonistas de esa carrera, junto a empresas como OpenAI y Google DeepMind. Esa posición convierte la intervención de Amodei en algo más que una advertencia externa: plantea desde dentro de la industria la posibilidad de que los mecanismos de seguridad y supervisión no estén avanzando al mismo ritmo que la propia tecnología.
Una propuesta para reducir la velocidad
Amodei ha desarrollado su posición en un ensayo titulado We Must Pace the Frontier, publicado este fin de semana, en el que sostiene que el desarrollo de los sistemas de frontera debe avanzar con mayor cautela. Su preocupación se centra especialmente en la posibilidad de que las capacidades de los modelos crezcan más deprisa que la capacidad humana para comprenderlos, evaluarlos y controlarlos.
El responsable de Anthropic propone, entre otras medidas, facilitar a evaluadores externos un acceso continuado a los sistemas para comprobar el cumplimiento de las medidas de seguridad, analizar incidentes y estudiar el comportamiento de los modelos durante su entrenamiento.
La propuesta va más allá de las decisiones que pueda adoptar una sola empresa. Amodei considera necesaria una coordinación entre los principales desarrolladores de inteligencia artificial y, en una fase posterior, acuerdos internacionales capaces de establecer determinados límites y estándares de seguridad.
El problema es que ralentizar unilateralmente el desarrollo plantea una dificultad evidente en una industria sometida a una fuerte competencia empresarial y geopolítica. Si una compañía decide avanzar más despacio mientras sus competidores mantienen el ritmo, puede perder posiciones en una tecnología considerada estratégica. La misma tensión aparece a escala internacional, especialmente en la competencia tecnológica entre Estados Unidos y China.
Un debate que divide a la industria
Las advertencias de Amodei han encontrado respaldo entre algunos de los nombres más relevantes del sector. Ejecutivos como Sam Altman, de OpenAI; Demis Hassabis, de Google DeepMind, y Elon Musk han expresado también su preocupación por la velocidad del desarrollo de los sistemas más avanzados, aunque las posiciones y propuestas concretas de cada uno no son idénticas.
Al mismo tiempo, la petición de reducir el ritmo ha generado críticas. Sus detractores cuestionan tanto la viabilidad de coordinar a empresas y países competidores como la conveniencia de introducir restricciones que puedan frenar la innovación o favorecer a las compañías que ya ocupan posiciones dominantes.
El debate tiene además una dimensión política. Las propuestas de mayor control sobre los sistemas avanzados chocan con quienes consideran que Estados Unidos debe mantener el máximo ritmo posible para conservar su ventaja tecnológica frente a China. Este lunes, medios oficiales chinos han criticado las posiciones de Amodei y han interpretado sus planteamientos sobre el control tecnológico como parte de la rivalidad entre ambos países.
Anthropic lleva años alertando de los riesgos
La posición de Amodei no supone un abandono completo de su discurso anterior. Anthropic nació con un fuerte énfasis en la seguridad de los sistemas de inteligencia artificial y su consejero delegado lleva años advirtiendo sobre los posibles efectos negativos de modelos cada vez más potentes.
Al mismo tiempo, Amodei ha defendido públicamente el enorme potencial de esta tecnología. En 2024 publicó el ensayo Machines of Loving Grace, en el que describía un escenario en el que una inteligencia artificial suficientemente avanzada podría acelerar el progreso en ámbitos como la biología, la medicina, la neurociencia o el desarrollo económico.
Esa combinación entre expectativas y riesgos ayuda a entender su posición actual. Amodei no plantea renunciar al desarrollo de la inteligencia artificial, sino ganar tiempo para que los mecanismos de control puedan avanzar antes de que aparezcan sistemas cuyas capacidades resulten mucho más difíciles de supervisar.
La discusión adquiere una relevancia especial porque procede de quienes tienen capacidad directa para decidir hasta dónde y a qué velocidad continúa avanzando la tecnología. La cuestión ya no es únicamente qué puede hacer la inteligencia artificial, sino qué límites están dispuestas a aceptar las empresas que compiten por construirla.
