EL IMPACTO DE LA INTELIGENCIA ARTIFICIAL EN LOS DISPOSITIVOS Y SISTEMAS DE SEGURIDAD
La analítica de imágenes permite identificar objetos o eventos definidos: una persona en una zona restringida, un vehículo detenido donde no debería estar o una acumulación inusual de personas. También puede relacionar una alarma física con registros de acceso y horarios de operación. El resultado es una hipótesis para comprobar, no una prueba de intención delictiva. Una alerta útil debe indicar qué ocurrió, dónde, cuándo y con qué nivel de confianza, de modo que el operador pueda revisar el vídeo original y el contexto.
Una cámara puede registrar miles de horas de vídeo; un equipo humano no puede examinar cada segundo con la misma atención. La inteligencia artificial (IA) ayuda a convertir ese caudal en avisos revisables. Su valor para una organización no reside en «predecir el delito» con certeza, sino en detectar señales relevantes antes, reducir el tiempo de búsqueda y documentar mejor las decisiones.
La analítica de imágenes permite identificar objetos o eventos definidos: una persona en una zona restringida, un vehículo detenido donde no debería estar o una acumulación inusual de personas. También puede relacionar una alarma física con registros de acceso y horarios de operación. El resultado es una hipótesis para comprobar, no una prueba de intención delictiva. Una alerta útil debe indicar qué ocurrió, dónde, cuándo y con qué nivel de confianza, de modo que el operador pueda revisar el vídeo original y el contexto.
El reto principal es medir el rendimiento en el lugar real de uso. La iluminación, los ángulos, la lluvia, la congestión y los cambios de rutina modifican la calidad de los datos. Una demostración comercial puede parecer convincente y fallar al funcionar durante semanas en un entorno concreto. Antes de desplegar el sistema conviene definir qué evento se quiere detectar, medir falsos positivos y omisiones, comprobar su desempeño por franjas horarias y repetir las pruebas tras cualquier cambio de cámaras o software. El marco AI RMF del NIST propone precisamente evaluar validez, fiabilidad, seguridad, privacidad, transparencia y sesgos según el contexto de uso [1].
La identificación de personas exige todavía más cautela. Los ensayos del NIST sobre reconocimiento facial encontraron diferencias de error entre algoritmos y grupos demográficos [2]. Por ello, una coincidencia automatizada no debería tratarse como identificación concluyente ni activar por sí sola una medida que afecte a una persona. Hay que limitar finalidades, accesos y conservación de datos, y someter las decisiones sensibles a revisión humana. Los requisitos legales concretos dependerán del territorio y del uso previsto.
¿Puede la IA anticipar delitos? Los modelos pueden estimar dónde o cuándo se concentran determinados incidentes a partir de datos históricos, pero una correlación no demuestra que alguien vaya a delinquir. Además, los registros reflejan tanto los hechos detectados como las prácticas de vigilancia y denuncia. Una evaluación de RAND de un experimento de vigilancia predictiva en Shreveport no encontró evidencia estadísticamente significativa de una reducción del delito atribuible a la intervención [3]. Esto obliga a distinguir un pronóstico que parece preciso de una mejora causal en seguridad.
Para un CEO, la pregunta de inversión es concreta: ¿qué decisión cambiará gracias a la herramienta y qué resultado podrá medirse? Para el responsable de seguridad, la respuesta incluye protocolos, responsables, supervisión y pruebas periódicas. Si disminuye el tiempo de verificación sin aumentar intervenciones injustificadas, la tecnología aporta valor. Su mejor papel es ampliar la capacidad de observación y análisis del equipo, manteniendo la responsabilidad de actuar en manos de personas.
Fuentes y lecturas
[1] NIST, Artificial Intelligence Risk Management Framework 1.0. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf
[2] NIST, Face Recognition Vendor Test Part 3 Demographic Effects. https://nvlpubs.nist.gov/nistpubs/ir/2019/nist.ir.8280.pdf
[3] RAND, Evaluation of the Shreveport Predictive Policing Experiment. https://www.rand.org/pubs/research_reports/RR531.html
Comentarios