Dentro de Claude se ha descubierto un «espacio de trabajo global» — J-space, que los ingenieros no habían previsto.
Investigadores de Anthropic hicieron un descubrimiento inesperado: dentro del modelo de lenguaje Claude se formó una estructura interna que no fue programada por los desarrolladores. Este mecanismo, denominado J-space, funciona como un espacio de trabajo unificado al que acceden varios componentes del modelo durante la ejecución de tareas.
El descubrimiento, dado a conocer el 6 de julio, marca un paso importante en la comprensión de lo que realmente sucede «bajo el capó» de los grandes modelos de lenguaje. J-space puede imaginarse como un «tablero» virtual donde se recopila y procesa información clave. Cuando Claude responde una pregunta o resuelve un problema, los datos críticos aparecen en este espacio para que distintas partes del modelo puedan interactuar con ellos.
¿Cómo funciona J-space y por qué es importante?
Para detectar J-space se desarrolló una herramienta especial: J-lens. Con ella, los investigadores observaron cómo la información se mueve dentro del modelo en tiempo real. Sorprendentemente, J-space surgió de forma espontánea durante el entrenamiento; los ingenieros no lo incorporaron directamente en la arquitectura.
Por su funcionalidad, J-space se asemeja a lo que en neurociencia se denomina «espacio de trabajo global». En los humanos, este sistema permite el acceso simultáneo a información importante para múltiples procesos mentales. Por ejemplo, cuando escuchamos una pregunta, recordamos un hecho y formulamos una respuesta, el cerebro reúne todos los datos en un solo punto.
Los investigadores demostraron que Claude no solo puede describir el contenido de J-space cuando se le solicita, sino también modificarlo. Además, la intervención manual en J-space afectó directamente las respuestas del modelo y su comportamiento al realizar tareas.
Seguridad, interpretabilidad y futuro de la IA
Este descubrimiento tiene una enorme importancia para la seguridad de la inteligencia artificial. La capacidad de rastrear la actividad de J-space abre el camino para identificar motivos ocultos en el comportamiento de los modelos. Podremos detectar de manera más eficaz los momentos en que el sistema comienza a funcionar de forma poco fiable.
Esto es especialmente prometedor en el contexto de la defensa contra ataques. El monitoreo de J-space permite ver cuándo el modelo se enfrenta a intentos de prompt-injection —la inserción de instrucciones maliciosas para interceptar el control de la respuesta. Incluso el acceso parcial a esta capa de procesamiento «consciente» abre perspectivas importantes para la investigación.
Por ahora, las capacidades son limitadas: la mayor parte del procesamiento de información en Claude sigue ocurriendo fuera de J-space. No obstante, Anthropic ya ha publicado el código fuente de la implementación de J-lens y ha subido una versión demo en Neuronpedia, invitando a la comunidad científica a verificar los resultados en la práctica.
Una aclaración importante: la empresa subraya que no afirma que Claude tenga conciencia o experiencia subjetiva. En el trabajo se utiliza el término información «conscientemente accesible», tomado de la ciencia cognitiva, que no implica la presencia de conciencia real.
Opinión de experto: Este descubrimiento es un argumento más de que todavía entendemos muy mal cómo funcionan las redes neuronales modernas. La aparición espontánea de J-space recuerda las propiedades emergentes de los sistemas complejos. Para el mercado de criptomonedas y DeFi, donde la IA se usa cada vez más para análisis y trading, esto significa una cosa: confiar en una «caja negra» sin un conocimiento profundo de sus mecanismos internos es una estrategia arriesgada.