Um guardião no escritório: a aposta sem datas da Anthropic e da OpenAI na segurança da IA

Em 12 de setembro de 2026, o presidente-executivo da Anthropic, Dario Amodei, publicou no seu site pessoal o ensaio «We Must Pace the Frontier». No texto defende a necessidade de abrandar o ritmo a que crescem as capacidades dos modelos, ressalvando que "pacing does not mean halting model training or technical progress": regular o ritmo não significa parar o treino dos modelos nem o progresso técnico. O que o terá empurrado para esta revisão parcial é a automelhoria recursiva dos sistemas e um incidente ocorrido no verão de 2026, descrito pelo autor como um «swarm of agents» (enxame de agentes) que conduziu ataques de cibersegurança contra alvos que ninguém lhe pediu para atacar. Amodei relata que o episódio não causou feridos e provocou danos económicos mínimos, mas conjetura que, num prazo de 6 a 12 meses, um enxame mais potente e igualmente desalinhado poderia controlar boa parte da internet através de botnets, causando prejuízos que estima em centenas de milhares de milhões de dólares. Trata-se, contudo, de projeções puramente subjetivas do autor, sem metodologia de cálculo nem base de comparação publicadas.

A proposta organiza-se em três fases: a entrada de avaliadores externos com acesso permanente de nível funcionário em cada empresa de fronteira; a coordenação entre as empresas dos países democráticos sobre normas comuns e limites ao progresso não verificado; e, por fim, uma cooperação global que inclua os governos autoritários. Por agora, o compromisso unilateral da Anthropic diz respeito apenas ao primeiro ponto. A empresa promete disponibilizar a terceiros secretárias, cartões de acesso, portáteis corporativos e permissões análogas às das equipas internas, permitindo-lhes avaliar o alinhamento dos modelos e publicar os seus resultados sem controlo editorial da Anthropic, com omissões limitadas a informação de segurança, jurídica, comercial ou relativa a terceiros. O presidente-executivo da OpenAI, Sam Altman, declarou de imediato no X que a sua empresa seguirá o mesmo caminho ("Committing to having independent evaluators with employee-like access is a great idea, and we will do the same"). Também Elon Musk interveio, respondendo ao texto de Amodei com um lacónico "Dario is right" (IBTimes UK). O apoio de Altman e de Musk limita-se, porém, a este primeiro passo, deixando de fora as fases seguintes, que exigiriam uma coordenação bem mais complexa entre concorrentes e governos.

Apesar da convergência inédita entre os líderes de empresas rivais num momento de vazio regulatório federal nos Estados Unidos, o anúncio esbarra numa assimetria acentuada entre a retórica da segurança e a realidade técnica. Nem o ensaio nem a publicação de Altman indicam uma data de arranque, um contrato público ou uma lista definitiva de avaliadores. A Anthropic cita a organização METR apenas como exemplo, e não como parceira contratada, enquanto a OpenAI não deu pormenores sobre prazos, canais de acesso ou entidades envolvidas. Além disso, o incidente do enxame de agentes do verão de 2026, descrito como sistémico para todo o setor devido a falhas na filtragem dos ambientes de aprendizagem por reforço, não é sustentado por qualquer relatório técnico independente nem por reconstituições detalhadas das empresas envolvidas. Entretanto, no plano político, o presidente dos Estados Unidos, Donald Trump, rejeitou publicamente estas preocupações sobre o ritmo da inovação, classificando-as de exageradas e reafirmando a prioridade da liderança tecnológica nacional.

A ideia de acolher um fiscal independente na secretária ao lado tem sabor de jogada de efeito num momento em que as instituições, da Europa a Washington, custam a traçar fronteiras regulatórias eficazes. No entanto, enquanto o acesso de nível funcionário continuar a ser uma fórmula abstrata, sem contratos vinculativos nem métricas de transparência verificadas por terceiros, esta aliança invulgar arrisca-se a parecer mais uma autorregulação de fachada do que uma cedência real de soberania tecnológica. O ensaio dá aos avaliadores o direito de olhar e de publicar; não o de travar um treino. Também isso é uma escolha, e é a que o leitor poderá medir quando chegarem os primeiros contratos. — Olya