La compañía estadounidense de inteligencia artificial Anthropic advirtió este jueves que los sistemas de IA serán capaces de diseñar y desarrollar a «su propio sucesor» de manera completamente autónoma en los próximos años. Ante este escenario, la firma sugirió la implementación de una “pausa” global en el avance de los modelos de frontera para que la sociedad y las investigaciones sobre seguridad puedan asimilar el ritmo de la tecnología.
A través de una publicación en su blog oficial, Anthropic desveló que actualmente delega una cantidad cada vez mayor del desarrollo de sus herramientas en sus propios sistemas de IA. Con el incremento progresivo de la capacidad de computación, la industria se aproxima a la posibilidad de una “automejora recursiva”. Aunque la empresa aclaró que este fenómeno “no es inevitable”, remarcó que “puede llegar antes de que muchas instituciones estén preparadas”. Si bien este avance promete aportar beneficios en disciplinas como la ciencia y la salud, también posee el potencial de “incrementar los riesgos de que los humanos pierdan el control de los sistemas de IA”.
“Si los sistemas son capaces de crear por completo a sus propios sucesores, los modos de hacerlos seguros, supervisarlos y dar forma a su comportamiento se vuelven mucho más importantes”, alertaron desde la organización.
La propuesta de una tregua tecnológica verificable
Para abordar con mayor margen de tiempo las “inmensas implicaciones” del sector, Anthropic catalogó como positivo el hecho de ralentizar la evolución de la IA. En este sentido, la empresa instó a laboratorios y firmas tecnológicas de todo el mundo a colaborar con su rama de investigación, The Anthropic Institute, con el fin de estructurar un marco regulatorio común.
“Creemos que sería bueno para el mundo tener la opción de frenar o pausar temporalmente el desarrollo de la IA de frontera para permitir a las estructuras sociales y la investigación en alineamiento puedan mantenerse seguir el ritmo del avance de la tecnología”, puntualizó la tecnológica.
Para que una iniciativa de este tipo resulte viable, Anthropic se ofreció a colaborar en la construcción de los mecanismos necesarios que permitan llevar a cabo la pausa. Esto incluye el diseño de metodologías de «verificación» que certifiquen de manera fidedigna que el resto de los competidores detengan sus investigaciones, evitando así que una paralización desinteresada beneficie a un «mal actor» en el mercado internacional. La tecnológica enfatizó que los laboratorios “bien financiados” de diferentes países tendrían que aceptar detenerse bajo idénticas condiciones, añadiendo que “una pausa creíble también tiene que especificar qué la desencadena, qué la levanta y quién la arbitra”.
Claude ya genera el 80% del código de la empresa
El manifiesto, firmado de forma conjunta por el cofundador de Anthropic, Jack Clark, y la directora de The Anthropic Institute, Marina Favaro, se apoyó en datos métricos internos para ilustrar la velocidad con la que avanzan sus modelos de vanguardia, vaticinando un futuro donde agentes digitales como su propio modelo, Claude, posean la facultad de entrenarse a sí mismos.
Evolución del código base en Anthropic generado por su IA (Claude) • Febrero de 2025: Menos del 10% del código base incorporado procedía de la IA. • Junio de 2026: Más del 80% del código que la empresa añade a su base es creado por Claude.
Esta progresión estadística interna es la que, según los ejecutivos, justifica la urgencia de abrir un debate global sobre los límites de la autonomía de los software y los protocolos de alineamiento humano antes de que la toma de decisiones tecnológicas quede enteramente descentralizada.