Software para uso policial aún debe esperar por la desconfianza en la protección de datos

Los países que implementaron tecnología para la automatización del análisis de datos, o tenían intenciones de ponerlo en marcha han frenado sus esfuerzos debido a la desconfianza de los ciudadanos y críticos.
21 Febrero, 2023 Actualizado el 22 de Febrero, a las 07:35
La inteligencia artificial de algunos de los programas constantemente evalúa los datos registrados sin algún filtro. (Imagen: Pexels)
La inteligencia artificial de algunos de los programas constantemente evalúa los datos registrados sin algún filtro. (Imagen: Pexels)
Arena Pública

Llegar a utilizar un androide como en 'Robocop' parece un reto que solo en ciencia ficción se podrá alcanzar.

Los softwares de uso policial, que permiten analizar datos recabados y registrados por los agentes que investigan un caso, se dictaminaron como ilegales en Alemanía después de que un tribunal fallara a favor de los críticos del sistema propiedad de Palantir, una compañía desarrolladora de programas para el análisis de datos.

La Sociedad Alemana de Derechos Civiles (GFF por sus siglas en alemán) fue la encargada de presentar el caso en contra del uso del software para la protección de datos. La premisa fue que Palantir podría no ser exacto en los resultados que arrojaba a partir de los datos que introducen los agentes y que generó sospechas hacia personas inocentes, como testigos, de las que se registraban sus datos en el programa.

El software estuvo en operación en el estado de Hesse, en el centro-oeste alemán, y entre los diversos casos en los que se implementó la tecnología, la policía lo utilizó para dar con una red que conspiraba para derrocar al gobierno alemán, investigación que fue revelada en diciembre del año pasado, comentó Peter Beuth, ministro del interior del estado de Hesse.

Con el fallo, Hesse tendrá hasta septiembre para reescribir sus disposiciones, mientras que la legislación que estaba por analizarse en Hamburgo, Alemanía, fue anulada directamente.

Aunque esto no significa que nunca podrán utilizar programas para análisis de datos para ayudar a la policía y a las agencia gubernamentales a realizar investigaciones, ya cada estado podrá sentar las “las bases legales” para el procesamiento posterior de los archivos, dijo Stephan Harbath, presidente de la Corte, durante su pronunciamiento.

Además, los jueces solicitaron mantener el uso de la tecnología de análisis de datos en ciertas situaciones que implique  “peligro a la vida, integridad física o la libertad de las personas”, según reportó el diario económico alemán Handelsblatt.

Estados de EU se suman a la prohibición de software

Al igual que en Alemania, en otras latitudes también se está buscando implementar cambios en las leyes para mejorar los programas que ayuden a mantener el orden en las vías públicas. En Estados Unidos (EU) hay estados que cuentan con software y hardware para uso policial para el análisis de datos; sin embargo, por situaciones similares que en Alemanía, se ha cancelado el uso de estos.

En Seattle se prohibió el uso de sistema de inteligencia artificial desarrollado por Truelo, empresa estadounidense, que tenía la función de recopilar el comportamiento de los oficiales a través de grabaciones que se realizaban con las cámaras que portaban en el uniforme los policías, para después enviar informes a fin de determinar si los agentes habían actuado con un comportamiento inadecuado.

Sin embargo, se determinó que el programa no tenía definida una comparación entre oficiales y civiles, sumado a que las cámaras vigilaban constantemente, el sistema registraba información de las personas “incluso aquellos que no son sospechosos de delitos”, y la ACLU, organización de derechos civiles, declaró a Axios que esto representaba un riesgo para la protección de datos de las personas.

Archivado en