Estamos acostumbrados a las series distópicas, pero la realidad a veces se impone. La biometría es una tecnología mediante la cual es posible identificar a una persona por sus características biofísicas y aunque no lo creamos, está en nuestro día a día. Sobre esto, un informe de la Agencia Europea de Derechos Fundamentales (FRA) alerta de los peligros que existen: la identificación biométrica necesita límites y por el momento no hay leyes específicas en muchos estados miembros, existe el riesgo de que se vuelva una medida común en lugar de excepcional y en muchos casos ahuyenta las manifestaciones pacíficas.
La preocupación sobre el tema existe y lo cierto es que la Comisión Europea ya ha aprobado un reglamento para prohibir el uso en espacios públicos de sistemas de inteligencia artificial que permitan la identificación biométrica -dispositivos de reconocimiento facial o huellas dactilares-, al considerar que se trata de tecnología de alto riesgo que viola los valores y los derechos fundamentales de la Unión Europea.
Este tipo de sistemas, entre los que destacan el reconocimiento facial y de voz, permiten a las fuerzas de seguridad identificar a personas a distancia en espacios públicos. Aunque la policía los utiliza para prevenir e investigar delitos o localizar a personas desaparecidas, el organismo europeo advierte que «son imprescindibles leyes claras y garantías sólidas para proteger las libertades ciudadanas», tal como se recalca en varios puntos del informe.
En la actualidad, estas herramientas impulsadas por inteligencia artificial se emplean sobre todo en grabaciones guardadas de vídeo o audio, y no tanto en tiempo real. Sin embargo, la capacidad de analizar masivamente estos datos en lugares públicos «sigue planteando amenazas serias para la privacidad de la población». La FRA subraya que varios Estados miembros de la Unión Europea «aún no han creado los marcos legales ni las autoridades de supervisión necesarias para controlar esta tecnología».
La aplicación de estas salvaguardas legales «es muy desigual entre los distintos países europeos, lo que genera niveles de protección muy diferentes para los ciudadanos«. Además, el informe confirma que muchas medidas introducidas inicialmente de forma excepcional por los gobiernos «acaban convirtiéndose en una rutina policial con el paso del tiempo». Por eso mismo, el organismo europeo insista en la necesidad de establecer «límites estrictos» antes de que los sistemas se pongan en marcha.
La privacidad también es clave, pues estas tecnologías procesan datos biométricos sensibles al comparar los perfiles capturados en la calle con listas de control o bases de datos de la policía. «Cuando las fuerzas de seguridad las emplean en espacios públicos, vulneran directamente la vida privada de las personas y su derecho a la protección de datos». La preocupación entre la ciudadanía es alta: el 37% de las personas encuestadas por la FRA temen que sus datos biométricos se utilicen para fines no autorizados.
El estudio pone también al descubierto los fallos y prejuicios de los algoritmos cuando están mal diseñados o no funcionan correctamente. Estos sistemas «cometen un mayor número de errores de identificación al analizar a mujeres, minorías étnicas, niños y personas mayores». Tales equivocaciones tecnológicas no son inofensivas, ya que pueden desencadenar «retenciones policiales injustificadas y falsas acusaciones contra ciudadanos inocentes», advierte también el estudio.
Junto a los errores individuales, la presencia de cámaras con reconocimiento biométrico genera un evidente efecto disuasorio sobre los derechos democráticos. «La simple posibilidad de ser identificado en la vía pública desanima a la población a la hora de ejercer sus libertades de reunión y expresión», insiste la FRA. De hecho, un 29% de los ciudadanos afirman que estaría menos dispuesta a participar en manifestaciones pacíficas si supiera que se utiliza reconocimiento facial.
A todos estos problemas se suma una falta de transparencia alarmante respecto al funcionamiento real de estas tecnologías. La investigación de la FRA revela que en varios países no existen mecanismos adecuados para informar a la sociedad sobre cuándo o cómo la policía recurre a la biometría. Esta opacidad dificulta «enormemente que organismos independientes examinen el uso de las herramientas, detecten posibles abusos o permitan a los afectados recurrir decisiones que vulneren sus derechos«.
Para corregir estas deficiencias, la FRA exige que las legislaciones nacionales fijen garantías específicas, eficaces y estrictas que determinen con total claridad cuándo y cómo puede la policía utilizar estas herramientas. Además, reclama respetar la Ley de IA de la UE, que limita, en base al reglamento mencionado, el rastreo biométrico en tiempo real en lugares públicos a situaciones de extrema necesidad, como la búsqueda de víctimas o la prevención de ataques terroristas. El objetivo principal es evitar que la tecnología termine utilizándose contra participantes en protestas o reuniones públicas pacíficas.
Asimismo, el documento exige que los países doten a las autoridades de protección de datos y a los organismos de derechos humanos de los recursos, facultades y conocimientos técnicos necesarios para auditar las actividades policiales. Para mantener niveles altos de confianza ciudadana en estos sistemas, matiza el informe, la policía debería publicar los resultados de sus evaluaciones de impacto sobre los derechos fundamentales antes de desplegar estos sistemas. «Tanto las fuerzas de seguridad como las empresas desarrolladoras deben emitir informes públicos periódicos sobre el uso efectivo de estas herramientas», concluye la agencia.
El documento termina asegurando que la seguridad ciudadana y la protección de los derechos no son conceptos incompatibles. «La seguridad pública y la protección de los derechos fundamentales no son objetivos contrapuestos; las democracias protegen a las personas velando tanto por su seguridad como por sus derechos. Con garantías claras y una supervisión independiente, las tecnologías biométricas a distancia pueden contribuir a la labor policial sin socavar las mismas libertades que pretenden salvaguardar. En última instancia, se trata de una cuestión de confianza. Y la confianza se forja cuando las personas tienen la certeza de que estas tecnologías se utilizan de forma proporcionada, responsable y conforme a la ley», concluye la directora de la FRA, Sirpa Rautio.
Un informe de la Agencia Europea de Derechos Fundamentales avisa además de que el reconocimiento facial comete más errores con mujeres, minorías, niños y ancianos.
Estamos acostumbrados a las series distópicas, pero la realidad a veces se impone. La biometría es una tecnología mediante la cual es posible identificar a una persona por sus características biofísicas y aunque no lo creamos, está en nuestro día a día. Sobre esto, un informe de la Agencia Europea de Derechos Fundamentales (FRA) alerta de los peligros que existen: la identificación biométrica necesita límites y por el momento no hay leyes específicas en muchos estados miembros, existe el riesgo de que se vuelva una medida común en lugar de excepcional y en muchos casos ahuyenta las manifestaciones pacíficas.
La preocupación sobre el tema existe y lo cierto es que la Comisión Europea ya ha aprobado un reglamento para prohibir el uso en espacios públicos de sistemas de inteligencia artificial que permitan la identificación biométrica -dispositivos de reconocimiento facial o huellas dactilares-, al considerar que se trata de tecnología de alto riesgo que viola los valores y los derechos fundamentales de la Unión Europea.
Este tipo de sistemas, entre los que destacan el reconocimiento facial y de voz, permiten a las fuerzas de seguridad identificar a personas a distancia en espacios públicos. Aunque la policía los utiliza para prevenir e investigar delitos o localizar a personas desaparecidas, el organismo europeo advierte que «son imprescindibles leyes claras y garantías sólidas para proteger las libertades ciudadanas», tal como se recalca en varios puntos del informe.
En la actualidad, estas herramientas impulsadas por inteligencia artificial se emplean sobre todo en grabaciones guardadas de vídeo o audio, y no tanto en tiempo real. Sin embargo, la capacidad de analizar masivamente estos datos en lugares públicos «sigue planteando amenazas serias para la privacidad de la población». La FRA subraya que varios Estados miembros de la Unión Europea «aún no han creado los marcos legales ni las autoridades de supervisión necesarias para controlar esta tecnología».
La aplicación de estas salvaguardas legales «es muy desigual entre los distintos países europeos, lo que genera niveles de protección muy diferentes para los ciudadanos«. Además, el informe confirma que muchas medidas introducidas inicialmente de forma excepcional por los gobiernos «acaban convirtiéndose en una rutina policial con el paso del tiempo». Por eso mismo, el organismo europeo insista en la necesidad de establecer «límites estrictos» antes de que los sistemas se pongan en marcha.
La privacidad también es clave, pues estas tecnologías procesan datos biométricos sensibles al comparar los perfiles capturados en la calle con listas de control o bases de datos de la policía. «Cuando las fuerzas de seguridad las emplean en espacios públicos, vulneran directamente la vida privada de las personas y su derecho a la protección de datos». La preocupación entre la ciudadanía es alta: el 37% de las personas encuestadas por la FRA temen que sus datos biométricos se utilicen para fines no autorizados.
El estudio pone también al descubierto los fallos y prejuicios de los algoritmos cuando están mal diseñados o no funcionan correctamente. Estos sistemas «cometen un mayor número de errores de identificación al analizar a mujeres, minorías étnicas, niños y personas mayores». Tales equivocaciones tecnológicas no son inofensivas, ya que pueden desencadenar «retenciones policiales injustificadas y falsas acusaciones contra ciudadanos inocentes», advierte también el estudio.
Junto a los errores individuales, la presencia de cámaras con reconocimiento biométrico genera un evidente efecto disuasorio sobre los derechos democráticos. «La simple posibilidad de ser identificado en la vía pública desanima a la población a la hora de ejercer sus libertades de reunión y expresión», insiste la FRA. De hecho, un 29% de los ciudadanos afirman que estaría menos dispuesta a participar en manifestaciones pacíficas si supiera que se utiliza reconocimiento facial.
A todos estos problemas se suma una falta de transparencia alarmante respecto al funcionamiento real de estas tecnologías. La investigación de la FRA revela que en varios países no existen mecanismos adecuados para informar a la sociedad sobre cuándo o cómo la policía recurre a la biometría. Esta opacidad dificulta «enormemente que organismos independientes examinen el uso de las herramientas, detecten posibles abusos o permitan a los afectados recurrir decisiones que vulneren sus derechos«.
Para corregir estas deficiencias, la FRA exige que las legislaciones nacionales fijen garantías específicas, eficaces y estrictas que determinen con total claridad cuándo y cómo puede la policía utilizar estas herramientas. Además, reclama respetar la Ley de IA de la UE, que limita, en base al reglamento mencionado, el rastreo biométrico en tiempo real en lugares públicos a situaciones de extrema necesidad, como la búsqueda de víctimas o la prevención de ataques terroristas. El objetivo principal es evitar que la tecnología termine utilizándose contra participantes en protestas o reuniones públicas pacíficas.
Asimismo, el documento exige que los países doten a las autoridades de protección de datos y a los organismos de derechos humanos de los recursos, facultades y conocimientos técnicos necesarios para auditar las actividades policiales. Para mantener niveles altos de confianza ciudadana en estos sistemas, matiza el informe, la policía debería publicar los resultados de sus evaluaciones de impacto sobre los derechos fundamentales antes de desplegar estos sistemas. «Tanto las fuerzas de seguridad como las empresas desarrolladoras deben emitir informes públicos periódicos sobre el uso efectivo de estas herramientas», concluye la agencia.
El documento termina asegurando que la seguridad ciudadana y la protección de los derechos no son conceptos incompatibles. «La seguridad pública y la protección de los derechos fundamentales no son objetivos contrapuestos; las democracias protegen a las personas velando tanto por su seguridad como por sus derechos. Con garantías claras y una supervisión independiente, las tecnologías biométricas a distancia pueden contribuir a la labor policial sin socavar las mismas libertades que pretenden salvaguardar. En última instancia, se trata de una cuestión de confianza. Y la confianza se forja cuando las personas tienen la certeza de que estas tecnologías se utilizan de forma proporcionada, responsable y conforme a la ley», concluye la directora de la FRA, Sirpa Rautio.
20MINUTOS.ES – Internacional
