Anthropic dice que recortó el robo por destilación hasta un 99 por ciento, y nombra a Zhipu

La noticia

Anthropic publicó el detalle de tres capas de protección contra la destilación, que consiste en entrenar un modelo rival con las salidas de un modelo más fuerte: limitar adónde puede ir el texto de razonamiento de Claude, un clasificador en dos fases que bloquea las peticiones de extracción, y cobros por las peticiones bloqueadas más límites de uso y vetos para quien reincide. Dice que los tokens de razonamiento extraídos son ahora entre 10 y 100 veces más bajos que antes.

Por qué importa

La destilación es la vía más barata de cerrar la distancia con la frontera. Este es el primer relato público y detallado de un laboratorio que la combate a escala, y da nombres.

Los detalles

La publicación acusa a Zhipu de destilar capacidades cibernéticas de los principales modelos de Estados Unidos mientras construía GLM-5.3, y dice que las peticiones a los modelos Kimi de Moonshot se reenviaban en secreto a Claude. Zhipu no respondió a la petición de comentario de Reuters.

Anthropic dice que ha vetado a decenas de miles de cuentas, con una tasa de falsos positivos del clasificador por debajo del 0,1 por ciento, llama a los resultados indicios tempranos y admite que no cumplió su meta de impacto cero en los usuarios legítimos.

Lo que no pudimos comprobar

• No podemos verificar por nuestra cuenta la atribución a Zhipu ni a Moonshot.
• Las tasas de detección y de falsos positivos son las de la propia Anthropic.