A Anthropic diz que cortou o roubo por destilação em até 99% e cita a Zhipu

A notícia

A Anthropic publicou detalhes de três camadas de proteção contra a destilação, o treino de um modelo rival com as saídas de um modelo mais forte: limitar para onde o texto de raciocínio do Claude pode ir, um classificador em dois estágios que bloqueia pedidos de extração, e cobranças por pedidos bloqueados, além de limites de uso e banimentos para reincidentes. A empresa diz que os tokens de raciocínio extraídos agora são de 10 a 100 vezes menores do que antes.

Por que importa

A destilação é o jeito mais barato de fechar a distância até a fronteira. Este é o primeiro relato público detalhado de um laboratório combatendo isso em escala, e ele cita nomes.

Os detalhes

A publicação acusa a Zhipu de destilar capacidades cibernéticas de modelos líderes dos EUA enquanto construía o GLM-5.3, e diz que pedidos aos modelos Kimi, da Moonshot, eram encaminhados em segredo ao Claude. A Zhipu não respondeu ao pedido de comentário da Reuters.

A Anthropic diz que baniu dezenas de milhares de contas, com uma taxa de falsos positivos do classificador abaixo de 0,1%, chama os resultados de evidência inicial e admite que a meta de impacto zero sobre usuários legítimos não foi atingida.

O que não conseguimos checar

• Não podemos verificar de forma independente a atribuição à Zhipu ou à Moonshot.
• As taxas de detecção e de falsos positivos são da própria Anthropic.