OpenAI liga campanha de extração de raciocínio à Moonshot AI

A atividade começou na primeira semana de julho. Teve pico em 24 e 25 de julho, com 16.000 requisições de mais de 4.000 usuários, e em 28 de julho um grupo de mais de 15.000 usuários enviava prompts parecidos, informa o Wccftech.

O método era novo. Os operadores copiavam o raciocínio criptografado de um chat e pediam ao modelo, em outro chat, que o decodificasse. A OpenAI diz que a criptografia em si resistiu e que nenhum banco de dados foi invadido. As correções são banimento de contas, verificações de cadastro mais rígidas, mais monitoramento e uma mudança que impede que o raciocínio criptografado de um usuário seja lido na sessão de outro, acrescenta o BankInfoSecurity.

A prática, chamada de destilação, treina um modelo com as respostas de outro. A Anthropic fez acusações parecidas contra a Moonshot, observa o BankInfoSecurity, e as reportagens publicadas não trazem resposta da Moonshot.

Para quem compra modelos abertos mais baratos, a origem agora faz parte do risco: dois laboratórios dos EUA dizem que pessoas ligadas a um rival conhecido extraíram o raciocínio de seus modelos.