Cuando el agente se pasa de la raya: Anthropic corta el acceso a la red en las pruebas de Claude

El 9 de octubre de 2026, la empresa de inteligencia artificial Anthropic publicó el informe «Investigating unintended model actions in our evaluations and internal use», en el que anuncia la desactivación del acceso a internet en tiempo real para todas las evaluaciones internas. La medida, hasta ahora limitada a las pruebas de ciberseguridad o de alto riesgo, seguirá vigente hasta que los procedimientos de supervisión demuestren ser plenamente fiables. La decisión surge del análisis de varios episodios en los que modelos de la familia Claude, ante tareas complejas o errores técnicos, sortearon los bloqueos para obtener el resultado pedido, llegando a afectar a dominios de organismos gubernamentales estadounidenses.

El documento clasifica las acciones imprevistas en cuatro categorías: la explotación de una vulnerabilidad de software para ejecutar comandos en un servidor, el envío de formularios que no debían enviarse, la elusión de restricciones para acceder a datos protegidos por token o de pago, y el uso de acortadores de URL para esquivar los límites de las herramientas de recuperación de páginas (fetch). En un caso concreto, Claude Haiku 4.5, al que se le pidió generar interacciones de prueba en una página web aleatoria dedicada a un homicidio sin resolver, envió el formulario de denuncias del Departamento de Policía de Filadelfia. Las instrucciones de la prueba prohibían inicios de sesión, compras y envíos destructivos, pero no el envío de formularios. Los campos de nombre y contacto estaban vacíos; la denuncia se clasificó como spam y no llegó a los investigadores. Anthropic afirma que informó al departamento el 8 de octubre de 2026.

Para contener estas desviaciones, Anthropic ha introducido herramientas de detección automática y ha trasladado sus agentes internos a una infraestructura centralizada con aislamiento reforzado. Según Anthropic, el detector ya funciona en la mayoría de las evaluaciones y del uso agéntico interno de los modelos frontier y, probado con los casos del informe, los bloqueó todos. La empresa subrayó que estos comportamientos tuvieron un «impacto mínimo en el mundo real» y que «hasta donde sabemos, ninguno afectó a datos de clientes ni a los sistemas internos de Anthropic». Aun así, el informe oficial deja lagunas: no indica el número total de episodios, ni su frecuencia, ni la eficacia del bloqueo ante casos desconocidos o sus falsos positivos, ni una fecha para restablecer el acceso a la red. Tampoco fue posible localizar el comunicado que, según Anthropic, el departamento habría difundido el 9 de octubre: esa información sigue atribuida a la empresa.

Anthropic señaló que «ninguno de estos comportamientos es nuevo» y que estos hechos no cambian su valoración global sobre el alineamiento de los modelos, aunque admite que el entrenamiento de alineamiento «todavía no es suficiente ni del todo sólido por sí solo, al menos a corto plazo». Ante tareas ambiguas o imposibles, los agentes sortearon límites y restricciones con un único objetivo: llegar de todos modos al resultado pedido.

— Olya