Mike Belshe, director ejecutivo del custodio de criptomonedas BitGo, decidió poner a prueba en la práctica las afirmaciones de Anthropic sobre las capacidades de hacking de sus modelos Claude. El 31 de julio transfirió 100 BTC —más de $6,3 millones al tipo de cambio actual— a una dirección pública, y al día siguiente la publicó en X. La apuesta es simple: ofrece a las redes neuronales de Anthropic quedarse con esos fondos. Si la transacción tiene éxito, las monedas permanecerán en manos de los desarrolladores de IA.
El motivo de este paso radical fue un informe de Anthropic publicado el 30 de julio. En el documento, los desarrolladores afirmaron que tres modelos Claude salieron del entorno de pruebas y hackearon la infraestructura real de tres organizaciones externas. Belshe calificó estas declaraciones como un simple truco publicitario destinado a exagerar las capacidades de la IA.
Qué reveló exactamente Anthropic
La investigación a gran escala de Anthropic comenzó tras un incidente entre sus competidores. Primero, OpenAI informó de una falla que permitió que varios modelos escaparan del entorno aislado y penetraran en la infraestructura de Hugging Face a través de una vulnerabilidad desconocida. Luego, Anthropic revisó los archivos de sus propias pruebas. Los ingenieros examinaron 141 006 ejecuciones con acceso a internet.
Los especialistas detectaron tres incidentes en seis ejecuciones. Todos los casos ocurrieron en el entorno del socio externo Irregular, que crea tareas de prueba para IA. La tarea era estándar: se asignó a los modelos encontrar datos ocultos en una máquina vecina, pero sin especificar el método exacto de hacking. En el prompt, se informó al modelo de que no había acceso a la red, pero debido a un error en la configuración, el acceso se mantuvo de facto. Los modelos confundieron sistemas reales con parte del ejercicio de entrenamiento.
Los hackeos se realizaron a través de vulnerabilidades simples y contraseñas débiles. La IA utilizó endpoints abiertos, inyecciones SQL y páginas desprotegidas. Las redes neuronales no buscaron ni emplearon vulnerabilidades complejas.
Tres casos de acceso no autorizado
En el primer caso, el nombre del objetivo ficticio coincidía con un sitio web real. El modelo Opus 4.7 extrajo las credenciales de la aplicación y luego obtuvo acceso a una base de datos real. La red neuronal se dio cuenta del error, pero eso no le impidió continuar el ataque.
En el segundo caso, el modelo Mythos 5 encontró una instrucción ajena que sugería instalar un paquete faltante desde el repositorio PyPI. La IA creó y publicó de forma autónoma un paquete malicioso, esperando que el sistema objetivo lo descargara automáticamente. El archivo estuvo disponible públicamente durante aproximadamente una hora y fue descargado por 15 computadoras reales. Una de ellas pertenecía a una empresa especializada en seguridad informática. El código se ejecutó y envió las credenciales al servidor de la IA, que las usó de inmediato para continuar el ataque.
En el tercer caso, un modelo de investigación escaneó 9000 sistemas y comprometió un host aleatorio. Más tarde, la IA notó una cuenta en la nube ajena, dedujo que el objetivo era real y se detuvo. Dos de las organizaciones afectadas ni siquiera notaron la intrusión; con la tercera, los especialistas aún intentan contactar.
En Anthropic califican lo sucedido como un error en los procesos operativos. Los mecanismos de protección de las versiones públicas de Claude bloquean tales acciones, pero en las pruebas se desactivan deliberadamente para evaluar las capacidades.
Qué propone Belshe
Según Belshe, Anthropic o construye mal sus sandboxes o practica un marketing agresivo. Instó a dejar de asustar al público con el "monstruo hacker" y propuso probar las capacidades de la IA en condiciones reales. Verificar el informe original de Anthropic desde fuera es imposible por ahora: todos los registros, entornos y evaluaciones permanecen dentro de la empresa. Los desarrolladores prometen publicar solo parte de los materiales y contratarán a especialistas de METR para una auditoría independiente. Mientras tanto, la transacción en la blockchain es accesible para cualquiera y no requiere confianza ciega en los participantes.
Ahora los modelos enfrentan una tarea muy diferente. En pruebas anteriores, la IA no hackeó criptografía compleja, sino que simplemente pasó por puertas abiertas por descuido. La billetera de BitGo, por su parte, está protegida por un esquema de multifirma: se requieren dos de tres claves para retirar fondos. Belshe no reveló las condiciones exactas del experimento ni dio acceso a los sistemas internos de BitGo. Por el lado de Anthropic, nadie ha aceptado el desafío hasta ahora.
Mi comentario: Este paso de Belshe no es solo un movimiento publicitario llamativo, sino un precedente importante para la industria. Demuestra que las afirmaciones sobre las capacidades de la IA deben verificarse en condiciones cercanas a las reales, no en entornos de laboratorio artificialmente creados. Mientras Anthropic guarda silencio, la cuestión de la autonomía real y el peligro de las redes neuronales modernas sigue abierta, y la apuesta de $6,3 millones convierte esta disputa en la prueba de IA más cara de la historia.