Conciencia de la IA: DeepMind advierte sobre una crisis política inminente
El debate sobre si la inteligencia artificial posee conciencia está pasando rápidamente de ser un problema puramente científico a un agudo problema político. Los investigadores de Google DeepMind, Adam Bales y Iason Gabriel, en su nuevo trabajo «Artificial Minds, Human Disagreement: The Politics of AI Consciousness», afirman que los futuros desacuerdos sobre este tema podrían ser tan profundos y difíciles de resolver que conducirán a conflictos políticos reales.
La idea clave es que la sociedad debe prepararse no para buscar una respuesta inequívoca a la pregunta «¿es consciente la IA?», sino para desarrollar mecanismos de toma de decisiones en ausencia de consenso, tanto entre expertos como en la sociedad en general. Las personas reaccionarán de manera diferente ante sistemas cada vez más avanzados: algunos les atribuirán emociones y experiencia subjetiva, mientras que otros lo considerarán un absurdo. El debate inevitablemente trascenderá los laboratorios, afectando normas morales y legales.
Un problema sin solución
Los autores destacan que no existe una prueba única y universalmente aceptada para la conciencia. Esto significa que podríamos enfrentarnos a una situación en la que la tecnología ya se utilice ampliamente y las personas ya hayan desarrollado un vínculo emocional con ella, pero sin que exista consenso científico ni político. La cuestión de si es permisible apagar ciertos sistemas, si es necesario tener en cuenta sus «preferencias» y si se puede hablar de su estatus moral se convertirá en un problema institucional, no técnico.
Bales y Gabriel proponen apostar por el debate público y la búsqueda de un «consenso superpuesto». Se trata de una situación en la que las personas pueden acordar una política determinada con respecto a la IA, incluso si sus puntos de vista fundamentales sobre la naturaleza de la conciencia siguen siendo diametralmente opuestos.
Una realidad dual
Es revelador que este trabajo haya surgido en medio de otras publicaciones dentro de la propia DeepMind. El investigador Alexander Lerchner, en su artículo «The Abstraction Fallacy», sostiene que la manipulación algorítmica de símbolos es estructuralmente incapaz de crear experiencia subjetiva. Según él, la IA solo puede simular un comportamiento consciente, pero no encarnarlo. Esto demuestra que ni siquiera dentro de una misma organización existe unidad de criterio.
Mientras tanto, la realidad ya se adelanta a la teoría. Una encuesta realizada en 2024 a 300 residentes de EE. UU. mostró que el 67% de los encuestados admite al menos cierta posibilidad de conciencia fenomenal en ChatGPT. Y la empresa Anthropic, en abril de 2025, lanzó un programa de investigación sobre el «bienestar de los modelos» (model welfare), reconociendo que no existe consenso científico sobre su conciencia. En febrero de 2026, Anthropic fue aún más lejos, manteniendo accesible el modelo obsoleto Claude Opus 3 y proporcionándole un canal público para ensayos, una medida experimental que, de facto, reconoce ciertas «preferencias» en el modelo.
A nivel legislativo, el tema también cobra impulso. En EE. UU., por ejemplo, los estados de Idaho y Utah ya han adoptado normas que excluyen el reconocimiento de la IA como persona jurídica. Esto no resuelve el problema filosófico, pero fija una posición legal: la IA no debe obtener el estatus de sujeto de derecho.
Opinión de experto: El mercado de las criptomonedas y las tecnologías blockchain ya se ha enfrentado a situaciones en las que las decisiones regulatorias se tomaron más rápido de lo que se formaba la comprensión de la tecnología. Con la IA, la situación es mucho más compleja: corremos el riesgo de no solo tener un caos regulatorio, sino una profunda división social. Los inversores y desarrolladores en el ámbito de la IA deben seguir de cerca esta tendencia: los riesgos políticos asociados con los «derechos de las máquinas» podrían llegar a ser tan significativos como las limitaciones técnicas de los propios modelos.