Anthropic dit avoir réduit le vol par distillation jusqu'à 99 %, et nomme Zhipu

L'actualité

Anthropic a publié le détail de trois couches de protection contre la distillation, c'est-à-dire l'entraînement d'un modèle rival sur les sorties d'un modèle plus fort : limiter les endroits où le texte de raisonnement de Claude peut aller, un classifieur en deux étapes qui bloque les requêtes d'extraction, et des frais pour les requêtes bloquées, plus des limites d'usage et des bannissements pour les récidivistes. Anthropic dit que les tokens de raisonnement extraits sont désormais 10 à 100 fois plus bas qu'auparavant.

Pourquoi c'est important

La distillation est le moyen le moins cher de combler l'écart avec la frontière. C'est le premier récit public détaillé d'un laboratoire qui la combat à grande échelle, et il cite des noms.

Les détails

Le billet accuse Zhipu de distiller des capacités cyber à partir des principaux modèles américains tout en construisant GLM-5.3, et affirme que des requêtes vers les modèles Kimi de Moonshot étaient secrètement transmises à Claude. Zhipu n'a pas répondu à la demande de commentaire de Reuters.

Anthropic dit avoir banni des dizaines de milliers de comptes, avec un taux de faux positifs du classifieur inférieur à 0,1 %. Elle qualifie les résultats de premiers éléments de preuve, et admet que son objectif d'un impact nul sur les utilisateurs légitimes n'a pas été atteint.

Ce que nous n'avons pas pu vérifier

• Nous ne pouvons pas vérifier de façon indépendante l'attribution à Zhipu ou à Moonshot.
• Les taux de détection et de faux positifs sont ceux d'Anthropic.