A 9 de junho, a Anthropic lançou o Fable 5 e apresentou-o como o modelo de inteligência artificial mais capaz que alguma vez pôs ao dispor do público. Três dias depois, ao final da tarde de 12 de junho, desligou-o. Não foi uma avaria: o governo dos Estados Unidos enviou-lhe uma carta e, em poucas horas, o Fable 5 e o seu irmão maior, o Mythos 5, deixaram de funcionar para toda a gente, em todo o mundo. O motivo invocado foi alguém ter pedido ao modelo que lesse código e corrigisse falhas.
Vai discutir-se durante semanas se o governo tem razão, e essa é a parte barulhenta. A que fica, para quem constrói ou depende de IA, é outra: uma capacidade que os defensores usam todos os dias foi tratada como arma, e um serviço de que milhões dependiam desapareceu entre o jantar e a meia-noite. A leitura honesta não tem heróis. Só temos a versão da Anthropic, o governo não disse nada em público, e a própria empresa já tinha pedido às autoridades este tipo de poder. A lição não é torcer por um lado; é parar de tratar um único modelo alojado como se fosse parte fixa da casa.
O que se sabe vem quase todo do comunicado da empresa. A diretiva de controlo de exportação (export control, as regras que limitam a saída de tecnologia sensível de um país) proíbe o acesso de qualquer cidadão estrangeiro ao Fable 5 e ao Mythos 5, esteja dentro ou fora dos EUA, incluindo os próprios funcionários estrangeiros da Anthropic. Como não há maneira de separar estrangeiros de norte-americanos em tempo real numa base de utilizadores na casa das centenas de milhões, a empresa preferiu cortar o acesso a todos. Os outros modelos, o Opus, o Sonnet e o Haiku, continuam a funcionar normalmente.
A justificação foi um jailbreak (a técnica que leva o modelo a fazer aquilo que deveria recusar). Segundo a Anthropic, a demonstração que esteve na origem da ordem resumia-se a pedir ao modelo que lesse um determinado código e apontasse os erros, e as falhas que encontrou eram poucas, já conhecidas e de baixa gravidade. A empresa garante que outros modelos ao alcance de qualquer pessoa, incluindo o GPT-5.5 da OpenAI, fazem o mesmo sem truque nenhum. Cumpre a ordem, mas discorda dela: «Discordamos que a descoberta de um jailbreak potencial e restrito deva justificar a retirada de um modelo comercial usado por centenas de milhões de pessoas». Chamou-lhe um provável mal-entendido.
Convém não engolir esta versão sem sal. A Anthropic é parte interessada, o governo não publicou a carta nem o fundamento técnico, e há uma ironia que merece registo: poucos dias antes, investigadores de segurança queixavam-se exatamente do contrário, de que o Fable 5 era tão fechado que recusava qualquer pedido vagamente ligado a cibersegurança. O mesmo modelo foi acusado de bloquear de mais e retirado por, supostamente, desbloquear de menos.
Pedir a uma IA que corrija código não é uma arma
Procurar falhas em código e propor correções é o trabalho mais banal da segurança informática. É o que fazem as ferramentas que vasculham programas antes de cada lançamento e é o que faz qualquer engenheiro que corre uma verificação antes de pôr um serviço no ar. É uma capacidade de uso duplo (dual-use, serve tanto para atacar como para defender), como quase tudo nesta área. Não banimos o nmap nem o Wireshark, utilitários que servem o atacante e quem protege a rede com a mesma naturalidade, porque há muito percebemos uma coisa simples: não se reforça a defesa proibindo as ferramentas de que a defesa vive. Tratar «pede ao modelo que conserte o teu código» como uma munição é um erro de categoria. A capacidade não é o problema. O problema é o precedente: desligá-la com uma carta e sem mostrar a prova.
Do lado de quem constrói, o que fazer com isto
A discussão jurídica vai arrastar-se, mas a lição operacional não precisa de esperar pelo veredicto:
- Não faças de um único modelo alojado uma dependência rígida. Tem alternativas prontas e um plano de recurso para o dia em que uma delas desaparecer, seja por avaria, por fatura ou por carta do governo.
- Sabe onde a IA vive no teu sistema. Não se gere o que não se vê: mapeia que serviços e que produtos dependem de que modelos.
- Prefere barreiras e vigilância a interruptores gerais. Em vez do kill switch (o interruptor que desliga tudo de uma vez), limita o que cada componente pode fazer, observa o comportamento e intervém de forma cirúrgica.
- Exige transparência nos dois sentidos. Quem aponta uma falha mostra-a a quem a pode corrigir, com prova e com prazo. Vale para um investigador independente e vale para um governo.
Fica mais por explicar do que explicado. Não se conhece a duração da suspensão, a base legal detalhada nem a prova que motivou a ordem. A fotografia que ninguém vai apagar é outra: um produto global, ao alcance de toda a gente, desapareceu num par de horas por decisão de quem não o construiu. Ganhe quem ganhar o argumento no tribunal, a disponibilidade que não controlas é um risco teu, e é a contar com isso que se constrói.
Fonte original: Snyk.
#StaySafe
🙏🖖
