Anthropic ha revelado una campaña masiva de destilación de Claude vinculada a Alibaba
El desarrollador de modelos avanzados de IA, Anthropic, ha identificado el mayor ataque de destilación en su historia, organizado por operadores vinculados a la china Alibaba y su laboratorio Qwen. Este incidente, según mi evaluación, no es solo una violación técnica, sino un desafío grave para todo el ecosistema del liderazgo estadounidense en IA.
Del 22 de abril al 5 de junio, los atacantes utilizaron casi 25 000 cuentas ficticias para generar más de 28,8 millones de consultas al modelo Claude. El objetivo de la campaña era extraer las capacidades clave del sistema de IA, especialmente en áreas de tareas agénticas, desarrollo de software y planificación a largo plazo. Anthropic destaca que estas acciones permiten reproducir el comportamiento de un modelo avanzado sin los costos de su entrenamiento.
Amenaza económica y contexto geopolítico
En una carta a los legisladores estadounidenses, la empresa señaló la "naturaleza descarada" del ataque, considerando que Alibaba cotiza en la Bolsa de Nueva York y opera negocios en EE. UU. Según analistas de Anthropic, incidentes como este "invierten la lógica económica": las inversiones multimillonarias estadounidenses en investigación y recursos computacionales se convierten, de hecho, en un subsidio para los competidores chinos. Además, existe el riesgo de que los modelos destilados puedan utilizarse para operaciones cibernéticas y tareas militares.
Llamado a la acción e iniciativas legislativas
Anthropic se dirigió al Congreso con varias propuestas. Entre ellas, la ampliación del intercambio de indicadores técnicos entre desarrolladores de IA y el gobierno, la clarificación de las normas antimonopolio para un intercambio seguro de información sobre ataques, y el endurecimiento de los controles de exportación de chips avanzados y el acceso a centros de datos en el extranjero. La empresa también insiste en la imposición de sanciones contra los organizadores de la destilación a gran escala.
Antecedentes y precedentes del sector
No es la primera vez que ocurre con Anthropic: en febrero, la empresa ya acusó a DeepSeek, Moonshot AI y MiniMax de acciones similares, que generaron más de 16 millones de interacciones. Cabe destacar que la destilación en sí sigue siendo una práctica común en la industria; por ejemplo, xAI de Elon Musk utilizó "parcialmente" modelos de OpenAI al entrenar Grok. En este contexto, el congresista Bill Huizenga presentó un proyecto de ley que prevé restricciones de exportación y sanciones contra entidades extranjeras que accedan ilegalmente a modelos de IA cerrados.
Mi análisis: Este incidente subraya una vulnerabilidad fundamental en el modelo de negocio de las empresas estadounidenses de IA, basado en API abiertas. Mientras la destilación siga siendo una forma técnicamente simple y económicamente rentable de "alcanzar" a los líderes, el mercado enfrentará una escalada de este tipo de ataques. La única solución a largo plazo podría ser no solo un control más estricto, sino también el desarrollo de métodos radicalmente nuevos para proteger los modelos contra la copia no autorizada.