A principios de julio, la empresa Anthropic, desarrolladora del conocido modelo de IA Claude, se convirtió en el epicentro de un inusual incidente que reveló graves vulnerabilidades en los sistemas de facturación de los gigantes de la IA. Un usuario de Corea del Sur, que operaba bajo el seudónimo remy_notes, recibió una factura por un monto superior a $16,6 millones, a pesar de no haber utilizado las API de pago y ni siquiera haber vinculado una tarjeta bancaria al servicio.
La situación se desarrolló rápidamente. La primera factura de $1,67 millones llegó el 7 de julio. Al día siguiente, la cantidad se multiplicó por diez, alcanzando los $16,6 millones. El desarrollador, que utilizaba exclusivamente el plan gratuito, no realizó ninguna acción que pudiera haber generado tales cargos. En su cuenta personal, el consumo de API seguía siendo cero, las claves de pago no estaban activadas y la tarjeta no estaba vinculada.
Cómo reaccionaron el banco y el soporte ante el error
Los intentos de cobro fueron rechazados por el banco, ya que los montos superaban el límite de la tarjeta. Sin embargo, tras varias transacciones fallidas, el banco bloqueó la tarjeta del usuario. Para resolver el problema con Anthropic, se necesitaron cuatro días y alrededor de 18 correos electrónicos al servicio de soporte. En lugar de una respuesta clara, el desarrollador recibió respuestas automáticas evasivas. Solo después de un ultimátum con fecha límite el lunes en hora coreana, la empresa reconoció el error.
Anthropic declaró que el incidente se debió a una falla en la configuración de la función de recarga automática de crédito. La empresa desactivó esta opción "por motivos de seguridad", pero no explicó por qué el monto de la recarga automática alcanzó valores tan absurdos. Es importante señalar que el dinero no se descontó realmente: todas las transacciones fueron rechazadas por el banco.
Un problema sistémico de la industria
Este caso no es aislado. La startup Vaudit realizó una auditoría de facturas por servicios de IA por un total de $34 millones para 60 grandes clientes, incluyendo Panasonic, HP y Honda. Los resultados mostraron sobrepagos de aproximadamente $1,7 millones, alrededor del 5% del total. Los errores más grandes se concentran precisamente en la facturación de soluciones de IA. Esto indica que el problema es de carácter sistémico: los sistemas de facturación de muchos proveedores de IA simplemente no están preparados para la escala y complejidad de los cálculos modernos.
Mi análisis: El mercado de servicios de IA crece a un ritmo explosivo, pero la infraestructura de facturación claramente va a la zaga. Fallos como este no son solo errores molestos, sino una señal para toda la industria. Desarrolladores y usuarios deberían revisar periódicamente los paneles de pago y estar atentos a las notificaciones del banco. Un fallo accidental puede convertirse en un grave problema financiero si no se reacciona a tiempo.