No início de 2025, a Google apagou de uma página de princípios uma frase que tinha escrito sete anos antes: a de que não desenharia inteligência artificial (IA) para armas ou para tecnologias cujo propósito fosse ferir pessoas. A remoção foi explicada num texto de blogue coassinado por Demis Hassabis, diretor da DeepMind, a divisão de IA da Google, com o argumento de que «há uma competição global pela liderança na IA» e que «as democracias devem liderar».
Aqui está o que devia preocupar qualquer pessoa, e não só quem trabalha com tecnologia: uma linha vermelha que a própria empresa pode apagar quando lhe convém nunca foi uma salvaguarda. Foi marketing.
As regras que se reescrevem sozinhas
O compromisso da Google já vinha esvaziado. Em 2021, um porta-voz explicava que os princípios só se aplicavam «a trabalho de IA personalizado, não ao uso geral dos serviços Google Cloud», ou seja, «a nossa tecnologia pode ser usada de forma bastante ampla pelos militares». Em 2025 caiu a própria frase. O relatório «When Algorithms Go to War», das organizações PAX e Privacy International, documenta o mesmo movimento na Meta e na OpenAI, que reverteram proibições de uso militar, e recorda que a OpenAI assinou em 2024 um acordo com a Anduril, uma empresa de armas. Internamente houve resistência: perto de 200 trabalhadores da DeepMind assinaram uma carta em 2024 e, em abril de 2026, mais de 600 funcionários da Google exigiram ao diretor executivo que vedasse ao Pentágono o uso da IA da empresa em trabalho classificado.
O caso que prova a regra
A Anthropic, a empresa que criou o assistente Claude e que assenta a sua imagem na «segurança da IA», instalou o Claude num laboratório de armas nucleares dos Estados Unidos (o Lawrence Livermore) e dentro da plataforma militar da Palantir. Mesmo assim, tentou manter dois limites: o Claude não podia ser usado para vigilância interna nem em operações letais autónomas. O resultado: em março de 2026 o Pentágono classificou a Anthropic como «risco para a cadeia de fornecimento», a primeira vez que o fez a uma empresa americana, e o Secretário da Guerra prometeu publicamente «garantir que pagam um preço por nos forçarem a mão». Entretanto, nota o relatório, o Claude foi usado à mesma, através do sistema de mira Maven da Palantir, em operações dos Estados Unidos contra a Venezuela e o Irão.
A lição serve nos dois sentidos. A empresa que apagou a sua linha vermelha ficou com os contratos. A empresa que tentou manter uma foi punida, e a tecnologia foi usada na mesma.
Quem trabalha com segurança e governação reconhece o padrão. Um controlo que a parte controlada pode desligar sozinha não é um controlo, é documentação. Uma «política de IA responsável» sem auditoria externa nem força legal vale o que vale qualquer promessa que se reescreve numa tarde. O relatório di-lo sem rodeios: estas políticas «podem ser revertidas ou retiradas à vontade» e «não substituem normas internacionais». E quando existem políticas de direitos humanos, costumam vincular os fornecedores, não os clientes nem o uso final, deixando as decisões difíceis ao critério do próprio governo. É o que os autores chamam «a falha de diligência onde ela mais importa».
O que fazer com isto:
- Ler qualquer compromisso voluntário de «IA responsável» como reversível: é uma intenção, não uma garantia.
- Exigir que os limites vivam onde a empresa não os pode apagar, na lei e nos contratos, com cláusulas sobre o uso final e não apenas sobre fornecedores.
- Apoiar as negociações internacionais que arrancam agora: em junho de 2026 começaram conversações na ONU sobre IA no domínio militar, e está em cima da mesa um tratado sobre armas autónomas.
Uma promessa que se apaga com uma edição de blogue nunca foi uma salvaguarda; foi uma campanha de imagem. As únicas regras que aguentam são as que ficam escritas fora da empresa, e essas ainda estão por escrever.
Fonte: «When Algorithms Go to War», PAX e Privacy International (junho de 2026).
#StaySafe
🙏🖖
