El sistema de facturación de Anthropic sufrió una grave falla, emitiendo una factura de $16,6 millones a un usuario del plan gratuito de Corea del Sur. El incidente ocurrió a principios de julio, y la víctima, un desarrollador bajo el seudónimo remy_notes, no tenía ninguna relación con la API de pago y ni siquiera había vinculado una tarjeta bancaria a su cuenta.
La primera factura "fantasma" por $1,67 millones llegó el 7 de julio. Al día siguiente, la cantidad se multiplicó por diez, alcanzando los $16.627.739. Todas las notificaciones provenían del dominio oficial de Anthropic a través del servicio de pago Stripe, por lo que inicialmente remy_notes sospechó de un phishing. Sin embargo, la verificación mostró que sus scripts y agentes de IA no generaron ninguna solicitud, y el uso de la API en su panel personal seguía siendo cero.
El banco rechazó dos intentos de cobro el 8 de julio, ya que las cantidades superaban el límite de la tarjeta. No obstante, tras varias transacciones fallidas, la tarjeta principal fue bloqueada. El servicio de atención al cliente de Anthropic tardó cuatro días y unas 18 cartas en resolver la situación; en lugar de una respuesta clara, el usuario recibió respuestas automáticas.
¿Cuál es la causa y quién tiene la culpa?
Anthropic reconoció el error y afirmó que el dinero no se descontó realmente. La falla se debió a una configuración incorrecta de la función de recarga automática de crédito, que la empresa ya desactivó "por motivos de seguridad". Sin embargo, los representantes no explicaron por qué la cantidad de recarga automática alcanzó valores tan absurdos. También se destaca que no hubo acceso no autorizado al servicio.
Este incidente es solo la punta del iceberg. La startup Vaudit auditó facturas por $34 millones en servicios de IA para 60 grandes clientes, incluidos Panasonic, HP y Honda, y detectó sobrepagos de aproximadamente $1,7 millones, alrededor del 5% del total. Los errores más grandes se concentran precisamente en la facturación de soluciones de IA.
Mi conclusión: Los sistemas de facturación automática en la industria de la IA aún están lejos de ser ideales. Los usuarios deberían revisar regularmente los paneles de pago y reaccionar ante cualquier notificación inesperada del banco, incluso si están seguros de no haber solicitado nada. De lo contrario, una falla accidental podría resultar en un bloqueo financiero grave.