En el mundo de la inteligencia artificial ha ocurrido un evento silencioso pero significativo: OpenAI, creador de ChatGPT, se ha quedado sin su único especialista interno en ética. Chloe Bakalar, quien lideraba esta área, dejó la empresa en julio, tras trabajar en el puesto menos de un año. Esto no es solo un cambio de personal, es una señal de alerta para toda la industria, que cada vez enfrenta más preguntas sobre la responsabilidad por las consecuencias de la implementación de la IA.
Bakalar no era solo una gerente, representaba un departamento completo. En OpenAI no encontraron un reemplazo para ella, y ahora la experiencia ética en la empresa está prácticamente ausente como función separada. La posición oficial del desarrollador suena ambigua: dicen que la ética no es responsabilidad de un solo empleado o equipo, sino que está integrada directamente en el proceso de creación de modelos. Sin embargo, en la práctica, esto parece un intento de enmascarar un vacío estructural.
La situación genera preguntas no solo entre los observadores, sino también en la comunidad profesional. Mientras los reguladores de todo el mundo endurecen los requisitos de transparencia de los algoritmos y el público exige explicaciones sobre el sesgo y la seguridad de la IA, OpenAI elimina efectivamente una voz independiente que podría actuar como crítica interna. Esto podría llevar a que los riesgos éticos se consideren después del hecho, y no en la etapa de diseño.
¿La ética como lujo o necesidad?
La renuncia de Bakalar es un síntoma de una tendencia más amplia en los gigantes tecnológicos: la reducción de roles "no esenciales" en favor de la velocidad de desarrollo. Pero en el caso de la IA, donde los errores pueden tener consecuencias irreparables, este enfoque es peligroso. Una empresa que crea tecnologías que afectan a millones de vidas no puede permitirse el lujo de ignorar la experiencia ética.
Mi análisis: La salida de Bakalar no es solo la pérdida de un empleado, sino una señal de cambio de prioridades en OpenAI. En la carrera por el liderazgo en el mercado de la IA, las consideraciones éticas a menudo pasan a un segundo plano, y esto es un precedente preocupante. Si el líder de la industria desmantela los mecanismos internos de control, a los demás actores les será aún más difícil justificar la necesidad de tales inversiones. Quizás esto sea solo el comienzo de cambios más amplios que veremos en los próximos meses.