Anthropic diz que GLM-5.3 aberto gera exploits com defesa fraca

No ExploitBench, o GLM-5.3 produziu um exploit completo em 12% das tentativas, contra 14% do Mythos Preview, informa a Anthropic. No conjunto interno de exploração de binários, o modelo sequestrou o fluxo de controle em 4% das vezes, contra 6%. Modelos anteriores, entre eles o GLM-5.2, ficaram perto de zero nos dois testes.

O ponto fraco são as barreiras de proteção. Afirmações falsas sobre quem estava pedindo passaram pelas recusas do modelo em 64% das vezes, constatou a Anthropic. Preencher previamente o raciocínio funcionou em 92% das vezes. Remover os pesos de segurança funcionou sempre, e nenhum dos três métodos funcionou no Claude.

A Anthropic tira daí dois pedidos de política pública. Quer que defensores tenham acesso mais amplo a modelos de fronteira e que governos façam verificações de segurança nos mais capazes.

A Zhipu ofereceu o GLM-5.3 primeiro como API em agosto, dizendo que superava os modelos da Anthropic e da OpenAI no CyberGym, noticiou o The Register. Duas semanas depois, publicou os pesos, observa o Trending Topics.

Equipes de segurança agora enfrentam uma capacidade de escrever exploits que qualquer pessoa pode baixar e rodar sem o filtro de um fornecedor no meio.