El incidente en el monte Shasta, en California, vuelve a plantear la cuestión de los límites de la confianza en la inteligencia artificial en asuntos donde el precio del error es la salud y la vida. Tres turistas que preparaban su ascenso con la ayuda del chatbot Gemini de Google se enfrentaron a graves consecuencias por subestimar la ruta. La red neuronal, según se descubrió, recomendó al grupo llevar considerablemente menos provisiones y agua de las necesarias para el ascenso real.

El tiempo previsto para el ascenso era de ocho horas, pero la subida real se prolongó hasta las 16. Los turistas comenzaron el descenso ya de noche, lo que provocó una lesión en la rodilla de uno de los participantes. Finalmente, el grupo se desvió del camino y se vio obligado a pasar la noche en un cañón antes de que los rescatistas pudieran brindarles ayuda y acompañarlos de vuelta al inicio del sendero.

La peligrosa autoconfianza de los algoritmos

Este caso no es un ejemplo aislado, sino un síntoma de un problema más amplio. Los modelos de lenguaje modernos, incluido Gemini, son excelentes generando texto y analizando datos, pero su «conocimiento» sobre el esfuerzo físico real, las condiciones meteorológicas y las particularidades de un terreno específico suele ser genérico o desactualizado. El algoritmo no tiene en cuenta la condición física individual, el estado actual del sendero ni otras variables críticas que un guardabosques experimentado evaluaría en el lugar.

La oficina del sheriff del condado de Siskiyou, que llevó a cabo la operación de rescate, subrayó la necesidad de verificar de forma cruzada cualquier información obtenida de la IA con expertos locales. Este es un enfoque absolutamente correcto: la IA debe ser una herramienta para el análisis inicial, no la autoridad final en cuestiones de seguridad.

Mi opinión como analista: El mercado de soluciones de IA para el turismo y las actividades al aire libre está creciendo, pero los desarrolladores deberían implementar avisos y limitaciones claros en estos escenarios. Hasta que los modelos no aprendan a integrar datos reales de sensores, pronósticos meteorológicos e informes actualizados de la comunidad, confiar en ellos en condiciones extremas es un riesgo que puede costar demasiado caro. El incidente en Shasta es un claro recordatorio de que la tecnología aún no reemplaza la experiencia humana ni el sentido común.