Anthropic informa sobre el mayor ataque de destilación de Claude, vinculándolo con Alibaba.
En la industria de la inteligencia artificial se está desarrollando otro sonado conflicto. La empresa Anthropic, desarrolladora del modelo Claude, ha enviado una carta oficial al presidente del Comité Bancario del Senado de EE. UU. y a la demócrata principal Elizabeth Warren, en la que acusa a operadores vinculados con la china Alibaba y su laboratorio de IA Qwen de llevar a cabo una campaña masiva de destilación de su modelo.
Según mis datos, este incidente ya ha sido calificado como el mayor ataque conocido de destilación. Del 22 de abril al 5 de junio, los atacantes utilizaron casi 25 000 cuentas ficticias para generar más de 28,8 millones de interacciones con Claude. Esto no es solo una violación de los términos de uso del servicio, sino un intento sistemático de reproducir las capacidades de un modelo avanzado sin los enormes costos de su entrenamiento.
Anthropic subraya que la campaña se centró en las capacidades clave de Claude: tareas de agencia, desarrollo de software y planificación a largo plazo. La empresa señala que Alibaba, al estar registrada en la Bolsa de Nueva York y tener operaciones comerciales en EE. UU., es responsable ante los inversores y reguladores estadounidenses, lo que hace que la situación sea particularmente flagrante.
Es importante entender que la destilación en sí misma no es ilegal y se utiliza a menudo de forma legítima, por ejemplo, para crear versiones compactas y económicas de los modelos. Sin embargo, el problema surge cuando los competidores obtienen acceso a una herramienta avanzada a través de cuentas ficticias, eluden las restricciones y utilizan las respuestas para entrenar sus propios sistemas.
Trasfondo económico y llamado al Congreso
En la carta se destaca que tales acciones «invierten la lógica económica del liderazgo de EE. UU. en IA». Cuando los laboratorios chinos destilan capacidades de los modelos estadounidenses, obtienen rendimientos de las inversiones multimillonarias de EE. UU. sin asumir los costos ni los riesgos. Además, Anthropic advierte que esto podría acelerar el desarrollo de sistemas de IA chinos para ciberoperaciones, tareas militares e inteligencia.
La empresa insta a los legisladores a tomar varias medidas: ampliar el intercambio de indicadores técnicos entre los desarrolladores de IA y el gobierno, aclarar las normas antimonopolio para el intercambio de información sobre ataques, endurecer los controles de exportación de chips avanzados y recursos informáticos, e imponer sanciones contra las partes responsables.
Contexto y precedentes
No es la primera vez que ocurre algo así con Anthropic. En febrero, la empresa ya acusó a DeepSeek, Moonshot AI y MiniMax de destilar Claude. Entonces, según la empresa, DeepSeek generó más de 150 000 interacciones, Moonshot AI más de 3,4 millones y MiniMax alrededor de 13 millones. En abril, Elon Musk también reconoció que xAI «utilizó parcialmente» modelos de OpenAI al entrenar Grok, lo que subraya la prevalencia de esta práctica.
Cabe señalar que en abril, el congresista Bill Huizenga ya presentó un proyecto de ley contra la extracción de características clave de modelos de IA estadounidenses cerrados por parte de adversarios extranjeros, que prevé restricciones a la exportación y sanciones.
Mi análisis: Este incidente es solo la punta del iceberg en la carrera global de la IA. La destilación se está convirtiendo en una herramienta estándar para los países que buscan reducir la brecha tecnológica. Sin embargo, para Anthropic no es solo una cuestión de seguridad, sino también una amenaza directa a su modelo de negocio. Si actores importantes como Alibaba pueden copiar legal o ilegalmente el comportamiento de Claude sin pagar regalías, esto socava la propia economía del desarrollo de modelos avanzados. Espero que en los próximos meses veamos un endurecimiento tanto de las políticas corporativas de protección como de la regulación estatal en este ámbito.