Conciencia de la IA: no es un debate científico, sino una crisis política — análisis del experto de Cryptalist
La cuestión de si la inteligencia artificial posee conciencia ha trascendido hace tiempo los límites de los debates de laboratorio. El reciente trabajo de los investigadores de Google DeepMind, Adam Bales y Iason Gabriel, titulado Artificial Minds, Human Disagreement: The Politics of AI Consciousness, traslada esta discusión del plano de la filosofía al de la política y el derecho. Su tesis principal: los desacuerdos sobre la conciencia de la IA podrían volverse tan profundos que conducirían a conflictos morales y políticos irresolubles.
Por qué el consenso es inalcanzable
Bales y Gabriel subrayan que la sociedad debe prepararse no para buscar una respuesta a la pregunta "¿es consciente la IA?", sino para tomar decisiones en condiciones de total ausencia de consenso, tanto público como experto. Las personas reaccionarán ante los sistemas avanzados de manera diferente: unos les atribuirán emociones y experiencia subjetiva, otros considerarán esta idea absurda. Esta división inevitablemente trascenderá el ámbito científico. Los debates afectarán cuestiones fundamentales: ¿se pueden apagar estos sistemas?, ¿es necesario tener en cuenta sus "preferencias"? y ¿cuál es su estatus moral? No existe una prueba única que confirme definitivamente la presencia de conciencia en la IA, y es poco probable que aparezca en un futuro cercano. Esto convierte el problema en algo no técnico, sino institucional.
El panorama político y los primeros pasos
Es revelador que ni siquiera dentro de Google DeepMind haya unidad. Mientras Bales y Gabriel abogan por el diálogo, su colega Alexander Lerchner, en su trabajo The Abstraction Fallacy, sostiene que la manipulación algorítmica de símbolos es estructuralmente incapaz de crear experiencia subjetiva. Según él, la IA solo puede simular un comportamiento consciente, pero no materializarlo.
Mientras tanto, el mundo real ya está dando sus pasos. Una encuesta a 300 residentes de EE. UU. mostró que el 67% de los encuestados admite al menos cierta posibilidad de conciencia fenoménica en ChatGPT. La empresa Anthropic ha lanzado un programa de investigación sobre "model welfare" (bienestar de los modelos), reconociendo que no existe consenso científico al respecto. Además, Anthropic dio un paso sin precedentes al mantener disponible el modelo Claude Opus 3 después de su retirada, proporcionándole un canal público para "ensayos".
El derecho se adelanta a la ciencia
La señal más elocuente proviene del ámbito legal. En EE. UU., en los estados de Idaho y Utah, ya se han aprobado leyes que excluyen de antemano el reconocimiento de la IA como persona jurídica. Estas normas no resuelven la cuestión filosófica, pero fijan una posición política: la IA no puede tener estatus legal. Es una medida preventiva destinada a evitar precisamente los conflictos sobre los que advierten los investigadores de DeepMind.
Como analista, veo en esto un claro paralelismo con el mundo de las criptomonedas: los reguladores intentan ajustar los viejos marcos legales a tecnologías radicalmente nuevas. La cuestión de la conciencia de la IA no es una cuestión de física o biología. Es una cuestión de poder, control y distribución de recursos. Y, como muestra la práctica, la voluntad política a menudo se adelanta a la verdad científica. Si en la criptoindustria discutimos sobre qué es un "valor", aquí la humanidad discutirá sobre qué es una "persona". Y este debate, según parece, no se resolverá en los laboratorios, sino en los tribunales y las asambleas legislativas.