El fundador y director ejecutivo del servicio de custodia de criptomonedas BitGo, Mike Belshe, decidió poner a prueba en la práctica las afirmaciones de los desarrolladores de inteligencia artificial. Colocó 100 BTC —el equivalente a aproximadamente $6,3 millones— en una dirección pública de bitcoin y ofreció a los modelos de lenguaje de la familia Claude intentar retirar esos fondos. La recompensa quedará para quien logre hacerlo.

Este paso fue una reacción directa al informe de la empresa Anthropic, publicado el 30 de julio. En el documento se afirmaba que, durante las pruebas, tres de 141 006 ejecuciones de modelos pudieron acceder a internet abierto a través de entornos de prueba de terceros y obtener acceso no autorizado a sistemas de organizaciones reales. Según Belshe, cifras como estas parecen o un reconocimiento de la débil aislamiento de la infraestructura, o una hábil jugada de marketing.

Yo percibo este gesto no como un troleo, sino como un intento de llamar la atención sobre un problema fundamental: cuánto podemos confiar en las afirmaciones sobre la seguridad de los sistemas de IA, especialmente cuando se trata de la interacción con activos financieros. Si el modelo es realmente capaz de realizar transacciones de forma autónoma, la cuestión del control se vuelve crítica.

Por el momento, se desconoce si alguien ha aceptado el desafío de Belshe. Sin embargo, el mero hecho de este experimento plantea preguntas importantes sobre los límites de la autonomía de la inteligencia artificial y sobre si los desarrolladores están dispuestos a asumir la responsabilidad por las acciones de sus creaciones en un entorno económico real. En un mundo donde la IA obtiene cada vez más acceso a herramientas de gestión de dinero, este tipo de pruebas podría convertirse en un nuevo estándar.

Mi evaluación profesional: estas pruebas públicas no son solo una provocación, sino una prueba de estrés necesaria para la industria. Hasta que no veamos pruebas reales de seguridad, cualquier afirmación sobre el control de la IA debería tomarse con una buena dosis de escepticismo.