VER RESUMEN

Resumen generado con una herramienta de Inteligencia Artificial desarrollada por BioBioChile y revisado por el autor de este artículo.

Cuatro estudiantes afrodescendientes demandaron a una empresa de inteligencia artificial, funcionarios escolares y policías de Baltimore, luego de que un sistema de detección de armas confundiera una bolsa de Doritos con un arma de fuego.

El Comité de Abogados para los Derechos Civiles en Baltimore, Estados Unidos, presentó una demanda en nombre de cuatro estudiantes afrodescendientes que fueron detenidos por la policía luego de que una inteligencia artificial (IA) confundiera una bolsa de Doritos con un arma en su escuela.

Los hechos ocurrieron en octubre de 2025 en la secundaria Kenwood, cuando el sistema de IA Omnilert Gun Detect, de la empresa Omnilert, que utiliza el establecimiento para detectar armas, falló.

Según recoge NBC News, uno de los adolescentes estaba comiendo una bolsa de Doritos Cool Ranch que le había dado su entrenador, pero el sistema lo identificó como un arma de fuego.

De acuerdo el comunicado de los abogados, la falsa alarma “desencadenó una serie de fallos humanos”, provocó que la policía local llegara al lugar armada y rodeara a los estudiantes a pocos pasos de la entrada de la escuela, donde los obligaron a arrodillarse, los esposaron y los registraron, cuando no habían cometido ningún delito.

También acusan que los adultos responsables pasaron por alto que la alerta de la IA era un error y, ante el Tribunal de Circuito del Condado de Baltimore, demandaron a la empresa Omnilert, funcionarios escolares y agentes del Departamento de Policía del condado.

Las acusaciones son por violaciones de los derechos constitucionales federales y estatales de los adolescentes, negligencia, negligencia grave y otras violaciones cometidas.

Damon Hewitt, presidente y director ejecutivo del Comité de Abogados por los Derechos Civiles, declaró que “estos estudiantes no solo fueron víctimas de una tecnología propensa a generar falsas alarmas, sino también de los mismos adultos que debían velar por su seguridad cuando los enviamos a la escuela”.

“En lugar de esta protección, se encontraron con armas y sufrieron un trauma. Y podría haber sido aún peor”, sostuvo.

“La excesiva dependencia de la inteligencia artificial, combinada con una comunicación y coordinación deficientes entre funcionarios clave, es una mezcla explosiva. Necesitamos reflexionar sobre cómo se está utilizando la IA, especialmente en lo que respecta a la seguridad pública y los niños. Luchamos por obtener justicia en este caso, pero también ofrece lecciones para educadores y policías de todo el país, quienes deberían pensarlo dos veces antes de poner el destino de nuestros hijos en manos de la IA”, concluyó.