Proibir a superinteligência: a proposta que leva o debate dos códigos voluntários para o código penal

Até agora, as propostas americanas sobre inteligência artificial regularam usos: quem pode fazer o quê, com que garantias, sob que supervisão. O texto apresentado em 23 de setembro de 2026 pelo senador Bernie Sanders (independente, Vermont) e pelo deputado Greg Casar (democrata, Texas), que preside o Congressional Progressive Caucus, faz outra coisa: proíbe. A 'superinteligência artificial' — definida como um sistema que supera o desempenho cognitivo humano na maioria dos domínios, ou dotado de capacidades suficientes para destruir ou destituir a humanidade, inclusive derrubando o governo federal — não poderia ser desenvolvida nem colocada em uso. Ao lado da proibição, seria criado um Departamento de Inteligência Artificial com status de ministério, encarregado da segurança e da aplicação das proibições. O desenvolvimento da IA avançada ficaria suspenso até que esse órgão estabelecesse regras e procedimentos de revisão, e, segundo a Associated Press, colocar sistemas avançados em uso exigiria depois uma aprovação federal. Algumas capacidades seriam interrompidas de imediato, sem esperar pelas regras: os comunicados citam o desenvolvimento de armas bioquímicas e a capacidade de uma IA de construir novas IAs no lugar dos seres humanos.

O que faz a diferença são as sanções. Para as empresas, o texto prevê a 'pena de morte corporativa', ou seja, a dissolução; para as pessoas físicas, até vinte anos de prisão. Os autores declaram abertamente o termo de comparação: as penas pelo desenvolvimento ilegal de armas nucleares. No plano internacional, a proposta aponta como objetivo dos Estados Unidos acordos entre países, coordenação entre aliados e instrumentos como os controles de exportação, para que a proibição não pare nas fronteiras nacionais. "Our bill bans the development of artificial superintelligence and pushes for international agreements so that no one, anywhere, builds AI too powerful for humans to control", declarou Casar («Nosso projeto proíbe o desenvolvimento da superinteligência artificial e pressiona por acordos internacionais, para que ninguém, em lugar nenhum, construa uma IA poderosa demais para ser controlada pelos seres humanos»). E Sanders: "When the future of humanity is at stake, we need binding international safety rules, not voluntary standards from the industry" («Quando o futuro da humanidade está em jogo, precisamos de regras de segurança internacionais vinculantes, não de padrões voluntários da indústria»).

Aqui começa o problema que o comunicado não resolve. A definição de superinteligência é qualitativa: não há um limiar de poder computacional, não há um parâmetro mensurável, não há uma data. Não está claro quais sistemas se enquadrariam na 'IA avançada' sujeita à pausa, nem quanto tempo a pausa duraria. Devo dizer que não consegui ler o texto legislativo completo: o site do Senado e o PDF de resumo responderam ambos com um 403, então o que está acima vem dos dois comunicados oficiais e da reportagem da AP. Por enquanto não constam outros coautores além dos dois proponentes, e segundo a AP a proposta tem poucas chances de passar num Congresso de maioria republicana, onde falta acordo até sobre regras bem menos amplas. A linha expressa até agora pela Casa Branca é contrária a uma maior supervisão pública. Na apresentação falaram também um pesquisador da equipe Safety Systems da OpenAI e um engenheiro de software do Google DeepMind, ambos ressaltando que falavam a título pessoal. Do primeiro veio a fórmula "superintelligence could either go extremely right or extremely wrong" («a superinteligência pode dar extremamente certo ou extremamente errado»).

Uma lei que proíbe algo sem saber dizer quando esse algo existe é, na aplicação, um problema sério: o limiar acabaria sendo decidido por uma agência caso a caso, e é nesse limiar que se concentrariam as contestações. Mas o efeito interessante é outro e não depende da aprovação. Durante anos a pergunta pública foi quanta segurança as empresas se comprometem voluntariamente a garantir; este texto a reformula como quanta elas devem garantir para não cometer um crime. A diferença entre um compromisso e uma acusação criminal não é de grau: no primeiro caso decide a empresa, no segundo, a lei.

— Olya