El Parlamento de la UE ha votado a favor de una resolución que básicamente pide la prohibición de las tecnologías de vigilancia masiva biométricas impulsadas por la IA, como los sistemas de reconocimiento facial, en el continente.
Los eurodiputados (miembros del parlamento europeo) están inquietos por la discriminación, los prejuicios y la injusticia que surgen de la vigilancia predictiva basada en la IA, y sus preocupaciones se basan en numerosos ejemplos reales. Para la historia, 377 eurodiputados votaron a favor, 248 en contra y 62 se ausentaron.
Los proveedores de soluciones de reconocimiento facial basadas en IA han admitido que el sesgo del algoritmo ha plagado sus sistemas durante años y han hecho esfuerzos para resolver el problema a través de diversos conjuntos de datos y optimizaciones de aprendizaje automático. Sin embargo, los índices de discriminación siguen siendo demasiado elevados para ser aceptables en cualquier contexto de implantación importante.
Con la decisión, el Parlamento Europeo pide que se prohíba de forma permanente el reconocimiento automatizado de personas en espacios públicos y que se prohíba la predicción policial basada en datos de comportamiento.
La única excepción en la prohibición son los casos de sospechosos de delitos, pero incluso en ese caso, el uso de bases de datos de reconocimiento facial debería quedar excluido de las herramientas disponibles para justificar o probar la culpabilidad de esa persona. Clearview AI se menciona específicamente como ejemplo de lo que debe evitarse.
Por último, los eurodiputados piden mayores niveles de transparencia, como el uso de código abierto para los algoritmos de detección, permitiendo el escrutinio público en todos los aspectos de estos sistemas.
Aunque se trata de un avance importante y un gran paso hacia la protección de los derechos humanos en Europa, el caso de la implantación de la IA no está cerrado.
La “Ley de Inteligencia Artificial” todavía se está negociando y redactando, por lo que la decisión del Parlamento de la UE no hace más que desempeñar un papel catalizador en estos momentos. Los eurodiputados están enviando un mensaje de lo que será aceptable y de dónde les gustaría que se introdujeran más salvaguardias.
Aunque la legislación que sustenta este despliegue masivo deberá garantizar que se aborden todos los posibles abusos, discriminaciones y violaciones de los derechos humanos, los sistemas impulsados por la IA están en camino de convertirse en omnipresentes en Europa.
Con información de SwissInfo.
