Un error de una IA en la detección de armas provoca un despliegue policial en una escuela

El pasado 24 de octubre, Taki Allen, un estudiante de 16 años del instituto Kenwood en Baltimore, vivió una experiencia traumática cuando ocho coches patrulla rodearon el centro educativo. La causa del operativo fue un error de un sistema de inteligencia artificial de videovigilancia que confundió una bolsa arrugada de Doritos con un arma. El joven, tras ser arrestado y esposado, explicó que pensaba que la situación podría haber terminado trágicamente. Aunque la empresa responsable, Omnilert, calificó el suceso como un ‘falso positivo’, la comunidad educativa y los padres de los estudiantes se cuestionan si un sistema con tales fallos debería tener tanto poder en entornos escolares. La tecnología, que fue implementada en 2024, busca identificar posibles armas en tiempo real a través de cámaras de seguridad, pero ha mostrado errores graves en su funcionamiento. El incidente ha reavivado el debate sobre la fiabilidad de la IA en la vigilancia pública y escolar. Las autoridades locales prometieron mejorar los protocolos de verificación antes de enviar alertas a la policía, mientras que la comunidad sigue preocupada por la seguridad y la precisión de estas tecnologías.