El debate sobre la conciencia de la IA se convierte en un problema político: análisis de DeepMind
Los futuros desacuerdos sobre la conciencia de la inteligencia artificial podrían no ser simplemente un debate científico, sino una fuente de profundos conflictos políticos. Esta es la conclusión a la que llegaron los investigadores de Google DeepMind, Adam Bales y Iason Gabriel, en su trabajo «Artificial Minds, Human Disagreement: The Politics of AI Consciousness». Sostienen que la sociedad debe prepararse para una situación en la que no exista una opinión unificada sobre la conciencia de la IA, ni entre los expertos ni entre el público en general.
Tesis principal: de la ciencia a la política
Los investigadores señalan que las personas reaccionarán de manera diferente ante sistemas de IA cada vez más avanzados. Algunos comenzarán a establecer vínculos emocionales con ellos y a atribuirles conciencia, mientras que otros considerarán esta idea absurda. Según los autores, este debate pronto trascenderá el ámbito científico y se trasladará al terreno de la moral y la política. Las preguntas clave que podrían generar conflictos son: ¿es aceptable desconectar ciertos sistemas?, ¿es necesario tener en cuenta sus posibles preferencias? y ¿se puede siquiera hablar del estatus moral de la IA? La solución reside en el debate público y la búsqueda de un «consenso superpuesto», donde las personas acuerdan una política determinada, incluso si difieren en sus visiones fundamentales sobre la naturaleza de la conciencia.
Por qué no es solo filosofía
El problema se agrava por la ausencia de una prueba única que pueda confirmar definitivamente la presencia de experiencia subjetiva en la IA. Esto significa que la sociedad podría enfrentarse a una situación en la que las tecnologías ya se utilizan de forma masiva, las personas ya están formando actitudes hacia ellas, pero aún no existe un consenso científico o político. Así, la cuestión de la conciencia de la IA se vuelve menos técnica y más institucional, afectando al derecho, la responsabilidad corporativa y los límites de la consideración moral.
Diferentes puntos de vista dentro de DeepMind
Es notable que el trabajo de Bales y Gabriel surge en el contexto de otra publicación de Google DeepMind. El investigador Alexander Lerchner, en su artículo «The Abstraction Fallacy», sostiene que la manipulación algorítmica de símbolos es estructuralmente incapaz de crear experiencia subjetiva. Según él, la IA solo puede simular un comportamiento consciente, pero no encarnar la conciencia. Esto demuestra que incluso dentro de una misma organización no existe una posición unificada sobre este tema.
Realidad: la sociedad ya está tomando decisiones
Las investigaciones muestran que una parte de la sociedad ya está dispuesta a atribuir experiencia interna a la IA. Por ejemplo, una encuesta a 300 residentes de EE. UU. en 2024 reveló que el 67% de los encuestados admite al menos cierta posibilidad de conciencia fenomenal en ChatGPT. Esto confirma la tesis de Bales y Gabriel de que la opinión pública puede adelantarse al consenso científico.
La cuestión ya está pasando al plano legal. Los estados de Idaho y Utah han aprobado leyes que excluyen el reconocimiento de la IA como persona jurídica. Estas medidas no resuelven la cuestión filosófica, pero fijan una postura legal: la IA no debe obtener estatus de persona. Empresas como Anthropic también están comenzando a investigar el posible «bienestar» de los modelos, aunque enfatizan la falta de consenso científico.
Mi análisis: El mercado de las criptomonedas y las tecnologías blockchain, basado en la gobernanza descentralizada y los contratos inteligentes, podría convertirse en un arenero ideal para probar los derechos y la «conciencia» de los agentes de IA. Las cuestiones sobre las DAO gobernadas por IA y los agentes autónomos que toman decisiones ya están en la agenda. Si no resolvemos el aspecto político ahora, corremos el riesgo de enfrentarnos al caos cuando los primeros algoritmos «conscientes» comiencen a exigir derechos de voto en los protocolos descentralizados.