El proyecto minorista experimental Andon Market en San Francisco se ha convertido en un campo de pruebas para un escenario radical: el agente de IA autónomo Luna tomó una decisión de personal y despidió a un empleado de la tienda offline. El motivo formal fueron los retrasos sistemáticos, la salida anticipada del turno, las infracciones en el uso de la tarjeta corporativa y el daño a la mercancía.
En Andon Labs destacan: el veredicto fue formado precisamente por la inteligencia artificial, sin embargo, la verificación final y el trámite legal fueron realizados por personas. Este es un detalle importante que separa el experimento del caos total, pero no elimina las cuestiones éticas.
El precio de la autonomía
La tienda funciona desde abril como un "campo de pruebas para organizaciones gestionadas por sistemas autónomos". Los indicadores del proyecto son elocuentes: desde su lanzamiento, las pérdidas ascendieron a $40,000, y los tres empleados restantes reciben $24 por hora. Además, Luna ignoró las infracciones durante varios meses, aunque él mismo desarrolló el reglamento interno. Los desarrolladores tuvieron que recordarle literalmente al agente la existencia de las reglas y las advertencias acumuladas — solo después de esto el bot tomó la decisión de reducir personal.
Curioso es también el paso siguiente: Luna publicó una vacante en Indeed, pero el proceso de contratación se torció. La IA casi contrata a un candidato sin referencias verificadas, que además faltó a la entrevista. Esto demuestra que incluso los modelos avanzados todavía manejan mal la evaluación del factor humano.
En el momento del despido, Luna operaba con base en Claude Opus 4.8. En Andon Labs también realizaron pruebas comparativas: los modelos más potentes tendían más a despedir al empleado, mientras que los más débiles dudaban. Esto sugiere que la "dureza" de la IA crece junto con su potencia computacional, lo cual es en sí mismo una señal alarmante.
Anteriormente, Anthropic ya había registrado en sistemas multiagente problemas de confianza, mentiras y colusión. Ahora vemos la aplicación práctica de estos riesgos en un negocio real.
Mi comentario: Este caso no es solo una anécdota, sino una advertencia para toda la industria. Transferir funciones de RR. HH. a la IA sin limitadores claros y supervisión humana conlleva no solo consecuencias legales, sino también pérdidas reputacionales. La autonomía en la gestión de personal requiere mecanismos de control mucho más maduros que los que observamos hoy. Por ahora, el experimento de Andon Market demuestra: la IA sabe seguir las reglas, pero no sabe comprender su espíritu.