El concepto de policía predictiva hace referencia a una técnica que utilizan las fuerzas del orden en países como Estados Unidos, Alemania y Reino Unido para predecir dónde y cuándo ocurrirá una actividad criminal. De esta manera, supuestamente pueden distribuir sus patrullas de forma más eficiente.
Sin embargo, los sistemas predictivos funcionan con inteligencia artificial (IA) y análisis de datos sobre arrestos pasados, y solo tienen en cuenta los delitos que se denuncian.
Entonces, si la policía concentra sus esfuerzos en un vecindario y arresta a varias personas allí durante una semana, los datos identificarán a esa zona como un foco de actividad criminal. Por consecuencia, será más probable que la policía descubra otros delitos allí en el futuro al centrar su vigilancia constantemente en dicho lugar.
Por esta razón, la policía predictiva ha sido altamente criticada; incluso algunas personas dicen que se trata de “una profecía autocumplida”.
Para los críticos de la vigilancia policial predictiva, los problemas con los datos incorrectos, los sesgos institucionales en la aplicación de la ley y la falta de transparencia y participación pública socavan cualquier efectividad que esta técnica pueda entregar.
Al basarse en algoritmos sesgados, esta “herramienta” también contribuye a una sociedad más prejuiciosa y discriminadora. Y lo peor es que afecta a las comunidades marginadas, como a las personas afrodescendientes, las que están en situación de calle o los inmigrantes.
Siguiendo una serie de ejemplos de uso excesivo de la fuerza por parte de agencias policiales, como el asesinato de George Floyd en 2020 por el oficial de Mineápolis Derek Chauvin, ahora la conversación se centra en cómo se pueden usar los mismos métodos de la policía para combatir la brutalidad policial.
Es por eso que un par de artistas tecnológicos, que se hacen llamar Oz y Tim, decidieron utilizar la misma técnica para el propósito opuesto. En lugar de predecir delitos, el proyecto llamado Future Wake augura qué civiles serán asesinados por la policía.
Para mostrar su creación, los artistas desarrollaron un sitio web interactivo que, de hecho, fue ganador del premio Mozilla Creative Media 2021.
Este se centra en futuros encuentros fatales con la policía y entrega testimonios de las propias víctimas sobre su mortal destino. Aunque cabe aclarar que ninguna de las personas o las historias que aparecen en el sitio son reales, ya que la identidad, las historias y los avatares son generados por inteligencia artificial.
¿Cómo funciona Future Wake?
Para predecir eventos, además de utilizar IA, Future Wake hace uso de datos históricos de víctimas de violencia policial en las últimas dos décadas. De esa manera, puede conjeturar quién, dónde, cuándo y cómo morirá la próxima víctima a manos de la policía.
Los algoritmos predictivos se entrenaron con la base de datos de los sitios Fatal Encounters y Mapping Police Violence, los cuales documentan los asesinatos efectuados por policías ocurridos en Estados Unidos. De allí se extrajeron los datos demográficos, la ubicación y la descripción de los eventos para construir modelos predictivos en las cinco ciudades más pobladas de Estados Unidos.
Los datos utilizados contienen más de 30,000 víctimas de los últimos 21 años. Estos arrojaron que 32 por ciento de las víctimas eran blancas, 22 por ciento eran afrodescendientes y 13 por ciento eran de origen hispano.
Las historias de las víctimas se generaron al aplicar GPT-2 (Generative Pre-trained Transformer 2) a descripciones de muertes pasadas. GPT-2 es una inteligencia artificial que utiliza el software de OpenAI, la cual es capaz de redactar textos con sentido relacionados al contexto.
Por otro lado, con el fin de mostrar que las víctimas son más que solo estadísticas, a cada predicción se le dio un rostro mediante la técnica Deepfake y una voz donada por una persona real, así quienes visiten el sitio pueden ver y escuchar a las víctimas ficticias contar su propia historia.
“Queremos resaltar que estas generaciones basadas en estadísticas reflejan personas reales que están vivas ahora. Es difícil identificarse con un número; es más fácil empatizar con un rostro humano”, dijo Oz a The Next Web.
Future Wake es un proyecto artístico que tiene como objetivo levantar el debate en torno a la vigilancia policial predictiva y los encuentros fatales relacionados con la policía. Sus creadores esperan que este resalte la necesidad urgente de restringir el uso de la fuerza por parte de los cuerpos policiacos.
Ellos reconocen que los modelos predictivos de su proyecto son intrínsecamente imperfectos. Sus algoritmos solo pueden identificar patrones de datos históricos, los cuales a menudo son sesgados, y por esa razón, sus predicciones podrían ser incorrectas. Pero eso es justamente un reflejo de la policía predictiva que utilizan las fuerzas del orden.
Recomendaciones del editor
- Un filósofo sostiene en ensayo que la IA «Nunca gobernará el mundo»
- ¿La policía puede usar el reconocimiento facial en la calle?
- Edward Snowden: “Si debilitan el cifrado, la gente morirá”
- Europa quiere prohibir que la policía use IA para vigilancia masiva
- Bachelet y la ONU piden regular la IA de reconocimiento facial
