Una amplia polémica se está viviendo en París por estos días, ya que la Asamblea Nacional de Francia ha aprobado el uso de IA para ayudar en la videovigilancia de los Juegos Olímpicos de París 2024.
La medida se produce a pesar de la oposición de grupos de derechos humanos que dicen que su uso es una posible violación de las libertades civiles, al tiempo que allana el camino para el uso futuro de la videovigilancia invasiva basada en algoritmos en toda Europa.
Según The Reg, el gobierno francés adoptó el Artículo 7 de la ley pendiente para los Juegos Olímpicos y Paralímpicos de 2024, autorizando el uso del análisis automatizado de video de vigilancia de cámaras fijas y de drones.
Se dice que el sistema detecta eventos sospechosos específicos en espacios públicos, como comportamiento anormal, eventos predeterminados y oleadas de multitudes.
Parece que Francia ignoró la advertencia de 38 organizaciones de la sociedad civil que expresaron sus preocupaciones sobre la tecnología en una carta abierta. Dicen que las medidas de vigilancia propuestas violan el derecho internacional de los derechos humanos, ya que contravienen los principios de necesidad y proporcionalidad, y plantean riesgos inaceptables para los derechos fundamentales, como el derecho a la privacidad, la libertad de reunión y asociación, y el derecho a la no discriminación.
«Si el propósito de las cámaras basadas en algoritmos es detectar eventos sospechosos específicos en espacios públicos, necesariamente capturarán y analizarán características fisiológicas y comportamientos de los individuos presentes en estos espacios, como sus posiciones corporales, marcha, movimientos, gestos o apariencia», dice la carta abierta. «Aislar a los individuos del fondo, sin el cual sería imposible lograr el objetivo del sistema, equivaldrá a una ‘identificación única'».
Como suele ser el caso con la vigilancia de la IA, también hay temores de discriminación. «El uso de sistemas algorítmicos para combatir el crimen ha resultado en un exceso de vigilancia, discriminación estructural en el sistema de justicia penal y una criminalización excesiva de las minorías raciales, étnicas y religiosas», agregan los grupos.