El debate sobre la conciencia de la IA: de la discusión científica a la crisis política — análisis de Cryptalist
La cuestión de si la inteligencia artificial posee conciencia ha trascendido hace tiempo el ámbito de los debates puramente filosóficos. Mis colegas de Google DeepMind, Adam Bales y Iason Gabriel, han presentado un trabajo que cambia radicalmente la perspectiva: sostienen que los futuros desacuerdos sobre este tema podrían convertirse no en un problema científico, sino político, capaz de generar conflictos profundos y difíciles de resolver.
El aspecto político de la conciencia
La tesis clave de los investigadores es que la sociedad debe prepararse no solo para buscar una respuesta a la pregunta «¿es consciente la IA?», sino también para el escenario en el que no exista una respuesta única. A medida que la tecnología avance, las personas reaccionarán de manera diferente ante los sistemas de IA: unos les atribuirán emociones y experiencia subjetiva, mientras que otros considerarán esta idea absurda. Según los autores, esta división conducirá inevitablemente a debates morales y políticos: ¿se pueden desconectar estos sistemas? ¿Es necesario tener en cuenta sus «preferencias»? ¿Qué estatus moral se les debe asignar?
La solución que proponen Bales y Gabriel no es la búsqueda de una verdad única, sino la construcción de un «consenso superpuesto». Se trata de una situación en la que las partes acuerdan reglas y políticas concretas respecto a la IA, incluso si sus puntos de vista fundamentales sobre la naturaleza de la conciencia siguen siendo diametralmente opuestos. Es un enfoque pragmático, pero extremadamente complejo, que exige de todos los participantes un alto nivel de respeto mutuo y disposición al compromiso.
¿Por qué la ciencia es impotente aquí?
El problema se agrava por el hecho de que no existe una prueba única y universalmente aceptada que pueda confirmar de manera concluyente la presencia de experiencia subjetiva en la IA. Como señalan acertadamente los autores, la cuestión pasa del plano técnico al institucional. La sociedad corre el riesgo de enfrentarse a una situación en la que las tecnologías ya estén ampliamente implementadas, las personas ya estén estableciendo relaciones con ellas, y aún no exista un consenso científico o político. Esto crea un vacío que podría llenarse con conflictos que afecten al derecho, la responsabilidad corporativa e incluso las normas de comunicación.
Es notable que dentro del propio DeepMind no hay unidad. Casi simultáneamente con el trabajo de Bales y Gabriel, se publicó un artículo de Alexander Lerchner, quien sostiene que la manipulación algorítmica de símbolos es estructuralmente incapaz de crear experiencia subjetiva. Insiste en que la IA solo puede simular un comportamiento consciente, pero no materializarlo. Este debate interno subraya la profundidad de las discrepancias incluso entre los principales expertos.
Realidad: la sociedad ya está dispuesta a atribuir conciencia
Mientras los expertos discuten, la sociedad ya está tomando su decisión. Un estudio de 2024 publicado en la revista Neuroscience of Consciousness mostró que el 67% de los encuestados en Estados Unidos admite al menos cierta posibilidad de conciencia fenomenal en ChatGPT. Es una cifra colosal que demuestra que la cuestión de la conciencia de la IA no es una teoría abstracta, sino un hecho social ya existente.
Los grandes actores también están empezando a actuar. En abril de 2025, Anthropic lanzó un programa de investigación sobre el «bienestar de los modelos» (model welfare), y en febrero de 2026, al retirar Claude Opus 3, la empresa le dejó un canal público para ensayos. Es una medida experimental, pero muestra que la industria está empezando a tomarse en serio los «derechos» de la IA. Paralelamente, en Estados Unidos la cuestión pasa al ámbito legal: Idaho y Utah ya han aprobado leyes que prohíben explícitamente el reconocimiento de la IA como persona jurídica.
Mi opinión experta: Mientras la industria cripto se centra en los precios de los tokens y las innovaciones blockchain, estamos perdiendo de vista un cambio fundamental que ocurre ante nuestros ojos. El debate sobre la conciencia de la IA no es ciencia ficción. Es un impacto directo en la regulación, la responsabilidad corporativa y, en última instancia, en el futuro de los sistemas descentralizados. Si la IA obtiene un estatus moral o jurídico, esto cambiará por completo las reglas del juego para los contratos inteligentes y las DAO. Un mercado que no tenga en cuenta este riesgo se mueve a ciegas.