OpenAI attribue à Moonshot AI une extraction de raisonnement

L’activité a démarré la première semaine de juillet. Elle a culminé les 24 et 25 juillet, avec 16 000 requêtes émises par plus de 4 000 utilisateurs, et dès le 28 juillet, un groupe de plus de 15 000 utilisateurs envoyait des prompts similaires, rapporte Wccftech.

La méthode était inédite. Les opérateurs copiaient le raisonnement chiffré d’une conversation et demandaient au modèle, dans une autre conversation, de le déchiffrer. Selon OpenAI, le chiffrement lui-même a tenu et aucune base de données n’a été piratée. Ses parades : des bannissements de comptes, des contrôles renforcés à l’inscription, une surveillance accrue et une modification qui empêche de lire le raisonnement chiffré d’un utilisateur dans la session d’un autre, ajoute BankInfoSecurity.

Cette pratique, la distillation, consiste à entraîner un modèle à partir des réponses d’un autre. Anthropic a formulé des accusations similaires contre Moonshot, souligne BankInfoSecurity, et les articles publiés ne contiennent aucune réponse de Moonshot.

Pour qui achète des modèles ouverts moins chers, la provenance entre désormais dans l’équation du risque : deux laboratoires américains affirment que des personnes liées à un même rival connu ont aspiré le raisonnement de leurs modèles.