Aquí hay un giro irónico: las escuelas están luchando contra la IA con IA.

A través de los distritos escolares estadounidenses, los administradores están implementando sistemas de vigilancia impulsados por IA que escanean los mensajes de los estudiantes, correos electrónicos y patrones de navegación. ¿El objetivo? Captar señales de advertencia tempranas, ya sea crisis de salud mental, indicadores de autolesionarse o potencial violencia.

Está sucediendo a medida que los chatbots y las herramientas de IA generativa se convierten en elementos habituales en el aula. La tecnología destinada a mejorar el aprendizaje ahora está siendo supervisada por otra capa de algoritmos diseñados para mantener a los niños seguros. Los estudiantes interactúan con asistentes de IA para obtener ayuda con la tarea, mientras que tras bambalinas, el software de monitoreo analiza su huella digital en busca de señales de alerta.

El enfoque plantea preguntas sobre los límites de privacidad en entornos educativos. ¿Cuánta vigilancia está justificada en nombre de la seguridad? ¿Dónde está la línea entre la supervisión protectora y la monitorización invasiva?

Lo que estamos viendo es un nuevo campo de batalla en la conversación más amplia sobre la gobernanza algorítmica, uno que se está desarrollando en las escuelas antes de que los niños ingresen al mercado laboral.