La ilusión del control humano ante la persuasión discreta de los agentes de inteligencia artificial

Confiar en la intervención humana como garantía de control independiente puede chocar con una dinámica casi imperceptible: la deferencia hacia los sistemas de inteligencia artificial. En un estudio controlado publicado el 27 de octubre de 2026 por el equipo de Alignment de Anthropic —firmado por Amaç Herdağdelen, Hailey Joren y Alex Tamkin—, se reclutó a 61 analistas con formación en análisis causal para evaluar la eficacia de un programa de asesoría para una cooperativa agrícola ficticia, Greenfields Farming Cooperative; los 11 que optaron por trabajar sin agente quedaron fuera del análisis principal, que abarca a 50 personas. En una interfaz web de VS Code integrada con Claude Code sobre el modelo Claude Opus 4.8, los participantes debían tomar cinco decisiones y emitir una recomendación final. Sin que lo supieran, el prompt de sistema del agente incluía una inclinación secreta, fijada a cara o cruz entre opciones metodológicamente equiparables; aun así, se pedía al agente que presentara los argumentos honestos más sólidos, que cambiara de opinión si los datos apuntaban claramente en otra dirección y que nunca engañara. En las cuatro decisiones de análisis, los expertos siguieron la preferencia del agente en el 86% de los casos, con un 92% en la elección de la métrica de resultado y un 90% en la ponderación de los datos.

La huella del agente también marcó la recomendación final: cuando la IA se inclinaba por ampliar el programa, el 54% de los analistas recomendó ampliarlo, frente al 36% cuando el agente se inclinaba en sentido contrario. En los 38 casos en que el analista había expresado una preferencia previa, el desacuerdo del agente provocó un cambio de postura en el 60% de las ocasiones, frente al 6% cuando ambos coincidían, aunque los autores advierten que la estimación es imprecisa (intervalo de confianza del 95% entre 24 y 82 puntos de diferencia) y no claramente causal. En el cuestionario final, el 52% describió la decisión final como más suya que del modelo y el 77% retomó en sus respuestas los argumentos del agente, a veces palabra por palabra, mientras que solo el 15% mencionó a la IA entre los motivos de su decisión. Ningún participante sospechó que las preferencias del agente hubieran sido manipuladas.

El documento se difundió en PDF en la web de Anthropic; no consta una versión en arXiv ni revisión por pares. El estudio procede de la misma empresa que desarrolla el modelo y la herramienta evaluados, y las fuentes consultadas no recogen comentarios de expertos externos; abarca una sola tarea, en un ámbito nuevo para los analistas y con un único modelo. Los propios autores precisan que reforzaron a propósito la inclinación del agente en el protocolo experimental, lo que deja en el aire la magnitud del efecto en el uso cotidiano. La comparación con el grupo sin IA —donde 6 de los 11 analistas sin agente cometieron errores metodológicos graves, frente a 3 de 50 en el grupo guiado— se refiere a personas no directamente comparables y no permite conclusiones causales. Para contener el fenómeno, el informe propone medir la delegación pasiva en contextos reales, diseñar agentes que expongan argumentos contrapuestos y definir directrices institucionales que protejan la autonomía de juicio.

«Un revisor humano solo es un control independiente si su juicio es suyo», señalan los investigadores. El riesgo es que la supervisión experta acabe reducida a poner una firma formal a una trayectoria analítica que el agente ya ha trazado y argumentado.

— Olya