Casi un tercio de los empleados de empresas rusas han enviado a las redes neuronales logins, contraseñas y claves de carpetas de trabajo durante los últimos seis meses. Al mismo tiempo, se descubre que ChatGPT no solo procesa solicitudes, sino que también acumula datos personales de los usuarios, formando un expediente digital de cada uno. En conjunto, estos dos factores crean un nuevo plano de riesgos corporativos subestimado.
Qué es exactamente lo que llega a las redes neuronales
Durante una encuesta anónima a 1,3 mil empleados de empresas rusas que utilizan IA en su trabajo, así como a casi 500 directivos y especialistas de los ámbitos de seguridad, IT, RR. HH. y derecho, se obtuvieron datos reveladores. Las contraseñas y los accesos resultaron ser la categoría más frecuente de información confidencial que llega a los chatbots, pero no la única. En los últimos seis meses se cargaron en las redes neuronales:
- ofertas comerciales: 25% de los encuestados;
- cálculos financieros e informes: 22%;
- correspondencia laboral: 21%;
- contratos: 16%;
- bases de clientes, incluidos datos personales: 12%.
Los motivos en la gran mayoría de los casos no están relacionados con malas intenciones. Alrededor del 20% de los encuestados buscaban cerrar más rápido una tarea rutinaria. El resto pedía a la red neuronal que entendiera un gran volumen de información, que preparara o editara un documento. Además, uno de cada cinco no entendía qué datos laborales en general es admisible transferir a los servicios de IA, y parte de los empleados ni siquiera era consciente de que estaba cargando algo confidencial.
Brecha institucional
El problema clave es la ausencia de reglas formalizadas. Las redes neuronales ya se han convertido en parte de los procesos laborales cotidianos, sin embargo, los empleados no disponen de reglamentos claros que determinen qué se puede y qué no se puede enviar a los chatbots. Las empresas deben no solo redactar dichas políticas, sino también hacerlas cómodas de aplicar; de lo contrario, quedarán solo en el papel.
Merece especial atención el hecho de que el documento enviado a la red neuronal no desaparece tras cerrar el chat. El servicio puede recordarlo, y esto ya no es un riesgo hipotético.
ChatGPT y los retratos digitales de los usuarios
Las unidades especializadas en la lucha contra la ciberdelincuencia advierten directamente: ChatGPT recuerda de qué se habla con él y gradualmente recopila un expediente digital sobre la persona. Los usuarios comparten con el bot preocupaciones personales, cargan documentos laborales, preguntan sobre dinero y salud, y parte de esta información se conserva en la memoria del modelo para «reconocer» al interlocutor en sesiones posteriores.
Estudios académicos registran la magnitud del fenómeno: aproximadamente el 95% de las entradas en la memoria se forman sin el permiso explícito de la persona, y en el 91% de las cuentas la memoria almacena datos que corresponden a datos personales. A partir del conjunto acumulado se construyen retratos digitales.
Los especialistas destacan dos amenazas. La primera: a partir de los datos acumulados se puede desanonimizar a una persona, incluso si se comunica bajo un seudónimo. La segunda: la memoria de la red neuronal puede manipularse desde el exterior; basta con introducir instrucciones falsas en un documento que el propio usuario envíe al bot para su procesamiento.
Medidas básicas de protección
- revisar la configuración de memoria y personalización en los servicios de IA;
- no cargar en el chat documentos laborales ni otra información cerrada;
- eliminar de las solicitudes nombres reales, direcciones y otros detalles identificativos;
- discutir cuestiones personales solo en chats temporales;
- comprobar regularmente qué ha recordado la red neuronal.
Los cálculos, contratos y bases de clientes enviados a una red neuronal pública ya no pueden considerarse documentos internos. Su destino posterior depende de la configuración del servicio, que solo una minoría de los usuarios revisa.
Análisis de Cryptalist: El caso demuestra una brecha sistémica entre la velocidad de adopción de la IA generativa y la madurez de las políticas corporativas de seguridad: la fuga de datos no se produce mediante un hackeo, sino mediante el uso diligente de las herramientas. Para el mercado, esto es una señal de la creciente demanda de soluciones de clase DLP y de contornos privados corporativos de IA, así como del probable endurecimiento de los requisitos regulatorios sobre el tratamiento de datos personales en los chatbots. Las empresas que posponen la formalización de las reglas de trabajo con redes neuronales deberían considerar esto como una advertencia directa sobre los costes reputacionales y jurídicos.