Los esfuerzos por utilizar la IA para predecir la delincuencia han estado cargados de controversia debido a la posibilidad de reproducir los sesgos existentes en la policía. Pero un nuevo sistema basado en el aprendizaje automático promete no solo mejorar las predicciones, sino también poner de manifiesto estos sesgos.

Si hay algo que se le da bien al aprendizaje automático moderno es detectar patrones y hacer predicciones. Por eso, no es de extrañar que muchos en el mundo de la política y la aplicación de la ley estén dispuestos a poner en práctica estas habilidades. Los defensores quieren entrenar Modelos de IA con los registros históricos de delincuencia y otros datos relevantes para predecir cuándo y dónde es probable que se produzcan los delitos y utilizar los resultados para dirigir los esfuerzos policiales.

El problema es que este tipo de datos suele ocultar todo tipo de prejuicios que pueden reproducirse con demasiada facilidad cuando se utilizan para entrenar algoritmos de forma irreflexiva. Los enfoques anteriores han incluido a veces variables espurias, como la presencia de grafitis o datos demográficos, que pueden llevar fácilmente a los modelos a realizar asociaciones erróneas basadas en criterios raciales o socioeconómicos.

Incluso los datos básicos de la policía sobre los delitos denunciados o el número de detenciones pueden contener sesgos ocultos. Una fuerte vigilancia de ciertas zonas que se supone que tienen un alto nivel de delincuencia debido a prejuicios preexistentes conducirá casi inevitablemente a más detenciones. Y en las zonas con alta desconfianza en la policía, los delitos pueden quedar sin denunciar.

Sin embargo, ser capaz de anticipar las tendencias de la actividad delictiva con antelación podría beneficiar a la sociedad. Por ello, un grupo de la Universidad de Chicago ha desarrollado un nuevo sistema de aprendizaje automático que puede predecir cuándo y dónde es probable que se produzcan los delitos mejor que los sistemas anteriores y que también puede utilizarse para investigar los sesgos sistémicos de la policía.

Los investigadores recopilaron en primer lugar datos de varios años de la policía de Chicago sobre delitos violentos y contra la propiedad, así como el número de detenciones resultantes de cada incidente. Utilizaron estos datos para entrenar un conjunto de modelos de IA que muestran cómo los cambios en cada una de estas variables afectan a las demás.

Esto permitió al equipo predecir los niveles de delincuencia en áreas de 1.000 pies de ancho de la ciudad hasta con una semana de antelación con una precisión del 90 por ciento, como se informó en un reciente papel en Naturaleza Comportamiento humano . Los investigadores también demostraron que su método alcanzó una precisión similar cuando se entrenó con datos de otras siete ciudades estadounidenses. Y cuando lo probaron en un conjunto de datos de un desafío policial predictivo dirigido por el Instituto Nacional de Justicia, superaron al mejor enfoque en 119 de las 120 categorías de prueba.

Los investigadores atribuyen su éxito al abandono de los enfoques que imponen restricciones espaciales al modelo al suponer que la delincuencia aparece en los puntos calientes antes de extenderse a las zonas circundantes. En cambio, su modelo pudo captar conexiones más complejas que podían estar mediadas por los enlaces de transporte, las redes de comunicación o las similitudes demográficas entre las distintas regiones de la ciudad.

Sin embargo, reconociendo que los datos utilizados para el estudio podían estar contaminados por los prejuicios existentes en las prácticas policiales, los investigadores también investigaron cómo su modelo podía utilizarse para descubrir cómo esos prejuicios podían estar distorsionando la forma en que las fuerzas del orden despliegan sus recursos.

Cuando el equipo aumentó artificialmente los niveles de delincuencia violenta y contra la propiedad en los barrios más ricos, las detenciones aumentaron, mientras que las de las zonas más pobres disminuyeron. Por el contrario, cuando se aumentaron los niveles de delincuencia en las zonas pobres, no aumentaron las detenciones. La implicación, dicen los investigadores, es que la policía da prioridad a los barrios más ricos y puede restar recursos a los más pobres.

Para validar sus conclusiones, los investigadores también analizaron los datos policiales brutos, utilizando el aumento estacional de la delincuencia durante los meses de verano para investigar el efecto de los elevados índices de delincuencia en diferentes zonas. Los resultados reflejaron las tendencias identificadas por su modelo.

A pesar de su precisión, el director del estudio, Ishanu Chattopadhyay, dijo en un comunicado de prensa que la herramienta no debe utilizarse para determinar directamente la asignación de recursos policiales, sino como instrumento para investigar mejores estrategias policiales. Describe el sistema como un «gemelo digital de los entornos urbanos» que puede ayudar a la policía a comprender los efectos de los distintos niveles de delincuencia o de aplicación de la ley en diferentes partes de la ciudad.

Está por ver si la investigación puede ayudar a dirigir el campo de la policía predictiva en una dirección más consciente y responsable, pero cualquier esfuerzo por equilibrar el potencial de seguridad pública de la tecnología frente a sus considerables riesgos es un paso en la dirección correcta.

Crédito de la imagen: David de Diemar / Unsplash