Chris Inglis escreveu há dias na Dark Reading uma tese que, à primeira leitura, soa quase libertadora. Estaríamos no princípio do fim da engenharia social, aquela arte antiga de enganar pessoas para lhes roubar acessos e dados. O argumento parte de uma mudança real. Os sistemas operativos estão a tornar-se «nativos de IA», com o Gemini colado ao Android e o Apple Intelligence dentro do iPhone, do iPad e do Mac. Pela primeira vez, deixam de apenas executar ordens e mostrar informação, e começam a interpretar aquilo que vês, ouves e recebes. A vigilância contra a burla deixaria de ser um peso teu para passar a ser tarefa da máquina.
Percebo o entusiasmo, até porque há por baixo dele uma verdade incómoda. A formação de utilizadores falhou. Durante anos andámos a dizer às pessoas para desconfiarem de emails com erros de português, e hoje a IA escreve melhor do que nós, no nosso tom e com o nosso contexto. Pedir a alguém que detete isto a olho nu tornou-se injusto, e quase inútil. Tirar esse fardo das costas do utilizador faz todo o sentido, e não é aí que discordo. O que me custa é chamar a isto o fim da engenharia social, quando o que vejo não é o problema a desaparecer, mas a mudar de vítima.
Quando o guarda passa a ser o alvo
Repara no que muda quando é a IA a decidir, em teu nome, em quem podes confiar. O atacante deixa de precisar de te enganar a ti e passa a ter um alvo bem mais rentável, que é enganar a própria IA. E isto não é especulação. Foi o que vimos num caso recente de que falámos aqui no site, uma falha no assistente do Microsoft 365 em que bastava uma instrução escondida num link de confiança para o assistente obedecer e entregar os dados sem que ninguém desse por nada. O alvo já não era a pessoa à frente do ecrã, era o assistente. E o princípio aqui é o mesmo. A partir do momento em que pões uma IA a julgar o que merece confiança, é ela própria que se torna o alvo que compensa enganar.
Há ainda uma questão de escala que me incomoda mais do que a falha em si. Enganar um ser humano compromete um ser humano. Enganar o sistema operativo que protege milhões de pessoas compromete-as a todas de uma vez, em silêncio, sem que nenhuma tenha clicado em algo visivelmente errado. Centralizar a confiança num só guarda é cómodo, mas transforma esse guarda no alvo mais valioso que alguma vez construímos.
A promessa é real, mas é cedo
Nada disto quer dizer que a direção esteja errada, e seria desonesto afirmá-lo. Um sistema que vela ativamente por nós é quase sempre melhor do que esperar que cada cidadão se transforme em analista de segurança nas horas vagas. O meu reparo é outro. Ainda não sabemos tornar essa IA imune ao mesmo truque que ela deveria travar, e a injeção de instruções, que é o problema de fundo de tudo isto (quando o texto que entra no sistema passa a comandá-lo), continua por resolver. Entregar a chave da confiança a algo que ainda se deixa enganar por um texto bem escrito não acaba com a engenharia social, apenas a promove de andar.
O que fazer enquanto lá não chegamos
Não se trata de recusar estas ferramentas, que vieram para ficar e têm valor real. Trata-se de não lhes entregar o juízo por inteiro:
- Mantém uma desconfiança tua. A IA pode avisar-te, mas a decisão final sobre dinheiro, palavras-passe e acessos é tua, e deve continuar a ser.
- Confirma o que é crítico por um segundo canal. Um pedido inesperado, mesmo que pareça validado pelo telemóvel, pede sempre uma chamada ou uma pessoa do outro lado.
- Exige controlo e transparência. Antes de deixares uma IA decidir o que é de confiança, percebe ao que ela acede e o que regista.
- Não ponhas todos os ovos no mesmo guarda. A segurança séria faz-se em camadas, e a IA é mais uma, nunca a única.
No fundo, a engenharia social nunca atacou as máquinas, atacou sempre a confiança. E enquanto houver confiança, haverá quem a explore, tanto faz se do outro lado está uma pessoa distraída ou um assistente diligente. Prometeram-nos o fim da burla, mas o que temos, para já, é a burla a mudar de porta.
Fonte original: Dark Reading (Chris Inglis).
#StaySafe
🙏🖖
