El debate sobre la conciencia de la IA se convierte en un conflicto político: análisis de expertos de DeepMind
La cuestión de si la inteligencia artificial posee conciencia está pasando rápidamente del ámbito del debate científico al de la política y el derecho. Los investigadores de Google DeepMind, Adam Bales y Iason Gabriel, en su trabajo «Artificial Minds, Human Disagreement: The Politics of AI Consciousness», concluyeron que los futuros desacuerdos sobre este tema podrían volverse profundos, difíciles de resolver y provocar conflictos políticos reales.
Tesis principal: de la ciencia a la moral y la política
Los autores sostienen que la sociedad se enfrentará a una polarización: algunas personas establecerán vínculos emocionales con sistemas avanzados de IA y les atribuirán conciencia, mientras que otras considerarán esta idea absurda. La disputa, en su opinión, irá mucho más allá de la ciencia y afectará aspectos morales y políticos. Las preguntas sobre si es admisible desconectar ciertos sistemas, si se deben tener en cuenta sus posibles preferencias y cuál es el estatus moral de la IA podrían dividir a la sociedad.
Bales y Gabriel proponen apostar por el debate público y la búsqueda de un «consenso superpuesto». Se trata de una situación en la que las personas acuerdan una determinada política respecto a la IA, incluso si continúan discrepando en visiones fundamentales sobre la naturaleza de la conciencia.
Por qué no es solo filosofía
El problema clave, según los expertos, es la ausencia de una prueba única y universalmente aceptada que confirme de manera definitiva la existencia de experiencia subjetiva en la IA. Debido a esto, la sociedad podría encontrarse en una situación en la que las tecnologías ya se utilizan masivamente, las personas forman una actitud hacia ellas, pero aún no existe un consenso científico o político. Así, el problema deja de ser puramente técnico y se vuelve institucional, afectando al derecho, la responsabilidad corporativa y los límites de la consideración moral.
Desacuerdos dentro del propio DeepMind
Es notable que el trabajo de Bales y Gabriel haya surgido en el contexto de otra publicación de Google DeepMind. El investigador Alexander Lerchner, en su artículo «The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness», sostiene que la manipulación algorítmica de símbolos es estructuralmente incapaz de crear experiencia subjetiva. Según su versión, el cálculo no es un proceso físico interno, sino una descripción que depende del observador. En consecuencia, la IA solo puede simular un comportamiento consciente, pero no encarnar la conciencia.
Realidad: la sociedad ya está dispuesta a atribuir conciencia a la IA
Un estudio publicado en abril de 2024 en la revista Neuroscience of Consciousness mostró que el 67% de los 300 residentes estadounidenses encuestados admiten al menos alguna posibilidad de conciencia fenomenal en ChatGPT. Esto confirma la tesis de Bales y Gabriel: parte de la sociedad ya está dispuesta a dotar a la IA de experiencia interna, incluso en ausencia de una posición experta unificada.
La tendencia está ganando impulso. En abril de 2025, Anthropic lanzó un programa de investigación sobre «model welfare» (el posible bienestar de los modelos), y en febrero de 2026, la empresa mantuvo a Claude Opus 3 disponible para los usuarios, proporcionándole un canal público para ensayos, lo que constituye una medida experimental en el marco del trabajo con preferencias de modelos.
En Estados Unidos, la cuestión del estatus de la IA ya está pasando al ámbito legal. Los estados de Idaho y Utah adoptaron normas que excluyen el reconocimiento de la IA como persona jurídica, lo que fija de antemano una posición legal sin resolver la cuestión filosófica de la conciencia.
Mi análisis: El debate sobre la conciencia de la IA no es solo una disputa académica, sino una crisis social y política incipiente. La falta de criterios claros y consenso científico crea un vacío que se llenará con emociones, manipulaciones políticas e iniciativas legislativas apresuradas. Los inversores y desarrolladores en el ámbito de la IA deberían prepararse para una incertidumbre regulatoria que podría tener un impacto mucho más grave en el mercado que cualquier avance tecnológico.