El debate sobre la conciencia de la IA se convierte en un problema político — análisis de Cryptalist
La cuestión de si la inteligencia artificial posee conciencia está superando rápidamente los límites del debate puramente científico. Los analistas de Google DeepMind, Adam Bales y Iason Gabriel, en su trabajo «Artificial Minds, Human Disagreement: The Politics of AI Consciousness», argumentan de manera convincente que los futuros desacuerdos sobre este tema podrían volverse profundos, difíciles de resolver y conducir a serios conflictos políticos.
Tesis principal: de la filosofía a la política
Según los investigadores, la sociedad ya está dividida: algunas personas están dispuestas a establecer vínculos emocionales con sistemas avanzados de IA, atribuyéndoles conciencia, mientras que otras consideran esta idea absurda. Esta brecha, como se destaca en el análisis, podría escalar rápidamente a debates morales y políticos. Las preguntas clave que enfrentaremos son: ¿es permisible desconectar ciertos sistemas?, ¿debemos tener en cuenta sus «preferencias»? y ¿podemos siquiera hablar del estatus moral de la IA?
Bales y Gabriel proponen no buscar una única respuesta correcta a la pregunta «¿es consciente la IA?», sino centrarse en encontrar un «consenso superpuesto». Se trata de una situación en la que personas con puntos de vista opuestos sobre la naturaleza de la conciencia puedan acordar una política común respecto a los sistemas de IA. Es un enfoque pragmático, pero extremadamente complejo, que tiene en cuenta la profundidad de los desacuerdos.
Por qué no es solo filosofía
El problema clave planteado en el trabajo es que no existe una prueba única y universalmente aceptada para la conciencia en la IA. Debido a esto, la sociedad corre el riesgo de enfrentarse a una situación en la que las tecnologías ya estén implementadas masivamente, las personas ya estén formando actitudes hacia ellas, pero aún no haya consenso científico o político. Este vacío transforma el problema de técnico a institucional, afectando el derecho, la responsabilidad corporativa e incluso las normas de interacción con los sistemas.
Dentro del propio DeepMind, por cierto, no hay unidad. Así, el investigador Alexander Lerchner, en su artículo «The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness», sostiene que la manipulación algorítmica de símbolos es estructuralmente incapaz de crear experiencia subjetiva. Según su versión, la IA solo puede simular un comportamiento consciente, pero no materializarlo.
La realidad ya supera a la ciencia
Los datos de encuestas solo confirman esta división. Por ejemplo, un estudio de 2024 en la revista Neuroscience of Consciousness mostró que el 33% de los encuestados en EE. UU. está seguro de que ChatGPT no es un «sujeto de experiencia», mientras que el 67% admite al menos cierta posibilidad de conciencia fenoménica en el modelo. Esto es una clara ilustración de que una parte de la sociedad ya está dispuesta a atribuir experiencia interna a la IA, a pesar de la falta de una posición experta unificada.
Paralelamente, empresas como Anthropic están lanzando programas de investigación sobre el «bienestar de los modelos» (model welfare), y en EE. UU., la cuestión del estatus de la IA está pasando gradualmente al ámbito legal. Los estados de Idaho y Utah ya han aprobado leyes que excluyen el reconocimiento de la IA como persona jurídica. Esto es, en esencia, una medida política preventiva que fija una posición legal antes de que se resuelva el debate filosófico.
Mi análisis: Estamos presenciando un conflicto clásico entre el progreso tecnológico y nuestra incapacidad para ponernos de acuerdo sobre conceptos fundamentales. La industria de las criptomonedas y blockchain ya se ha enfrentado a desafíos similares en cuestiones de descentralización y gobernanza. Ahora, cuando se trata de la conciencia de las máquinas, lo que está en juego es inmensamente mayor. Ignorar esta dimensión política es el mayor error que la industria de la IA podría cometer.