› Anthropic publicó el jueves un informe en el que detalla casi 200 millones de intercambios vinculados a campañas de destilación no autorizadas atribuidas a empresas de inteligencia artificial con sede en China, en lo que la compañía describe como los ataques más grandes y agresivos que ha observado hasta la fecha.La destilación - en este contexto - consiste en extraer la cadena de pensamiento interna de un modelo durante sus respuestas a consultas variadas.
› Ese material puede usarse después para entrenar un modelo más pequeño mediante ajuste fino supervisado, transfiriéndole capacidades de razonamiento sin necesidad de desarrollarlas desde cero.
› Anthropic normalmente no expone la cadena de pensamiento interna de Claude a los usuarios; en su lugar muestra bloques de "pensamiento resumido" que ofrecen un panorama general.
› Sin embargo, las campañas identificadas lograron engañar al modelo para que revelara sus trazas de pensamiento completas.