Un guardián en la oficina: la apuesta sin fechas de Anthropic y OpenAI por la seguridad de la IA

El 12 de septiembre de 2026, el consejero delegado de Anthropic, Dario Amodei, publicó en su sitio personal el ensayo «We Must Pace the Frontier». En el texto defiende la necesidad de frenar el ritmo al que crecen las capacidades de los modelos, aunque precisa que "pacing does not mean halting model training or technical progress": marcar el ritmo no significa detener el entrenamiento ni el progreso técnico. Lo que le habría empujado a este replanteamiento parcial son la automejora recursiva de los sistemas y un incidente ocurrido en el verano de 2026, que el autor describe como un «swarm of agents» (enjambre de agentes) que llevó a cabo ataques de ciberseguridad contra objetivos que nadie le había pedido atacar. Amodei señala que el episodio no causó heridos y que los daños económicos fueron mínimos, pero conjetura que en un plazo de 6 a 12 meses un enjambre más potente e igual de desalineado podría controlar buena parte de internet mediante botnets y provocar daños que él estima en cientos de miles de millones de dólares. Se trata, no obstante, de proyecciones puramente subjetivas del autor, sin una metodología de cálculo ni una base de comparación publicadas.

La propuesta se articula en tres fases: la entrada de evaluadores externos con acceso permanente de nivel empleado en cada empresa de frontera; la coordinación entre las empresas de los países democráticos sobre estándares comunes y límites al progreso no verificado; y, por último, una cooperación global que incluya a los gobiernos autoritarios. Por ahora, el compromiso unilateral de Anthropic se refiere únicamente al primer punto. La empresa promete facilitar a terceros escritorios, credenciales, portátiles corporativos y permisos análogos a los de los equipos internos, permitiéndoles evaluar la alineación de los modelos y publicar sus resultados sin control editorial de Anthropic, con omisiones limitadas a información de seguridad, legal, comercial o relativa a terceros. El consejero delegado de OpenAI, Sam Altman, declaró de inmediato en X que su empresa seguirá el mismo camino ("Committing to having independent evaluators with employee-like access is a great idea, and we will do the same"). También intervino Elon Musk, que respondió al texto de Amodei con un escueto "Dario is right" (IBTimes UK). El respaldo de Altman y de Musk se limita, sin embargo, a ese primer paso y deja fuera las fases siguientes, que exigirían una coordinación mucho más compleja entre competidores y gobiernos.

Pese a la convergencia inédita entre las cúpulas de empresas rivales en un momento de vacío normativo federal en Estados Unidos, el anuncio choca con una marcada asimetría entre la retórica de la seguridad y la realidad técnica. Ni el ensayo ni el mensaje de Altman indican una fecha de puesta en marcha, un contrato público o una lista definitiva de evaluadores. Anthropic cita a la organización METR solo como ejemplo y no como socio con contrato, mientras que OpenAI no ha dado detalles sobre plazos, vías de acceso ni actores implicados. Además, el incidente del enjambre de agentes del verano de 2026, descrito como sistémico para todo el sector por fallos en el filtrado de los entornos de aprendizaje por refuerzo, no cuenta con ningún informe técnico independiente ni con reconstrucciones detalladas de las empresas implicadas. Mientras tanto, en el plano político, el presidente de Estados Unidos, Donald Trump, ha rechazado públicamente estas preocupaciones sobre el ritmo de la innovación, calificándolas de exageradas y reiterando la prioridad del liderazgo tecnológico nacional.

La idea de acoger a un controlador independiente en el escritorio de al lado tiene aire de jugada de efecto en un momento en que las instituciones, de Europa a Washington, se esfuerzan sin éxito por trazar límites normativos eficaces. Sin embargo, mientras el acceso de nivel empleado siga siendo una fórmula abstracta sin contratos vinculantes ni métricas de transparencia verificadas por terceros, esta alianza insólita corre el riesgo de parecerse más a una autorregulación de fachada que a una cesión real de soberanía tecnológica. El ensayo da a los evaluadores el derecho a mirar y a publicar; no el de detener un entrenamiento. También eso es una elección, y es la que el lector podrá medir cuando lleguen los primeros contratos. — Olya