Así es como debe ser la regulación del reconocimiento facial
2 Julio, 2019 / Artículos
A pesar de que el reconocimiento facial (RF) se utiliza en centenares de aplicaciones, existen muy pocas reglas para gobernar su uso. Más importante: esta tecnología, en las manos incorrectas, puede ser muy peligrosa, por lo que no es casualidad que se hayan incrementado los llamados para regularla.
La Unión Americana de Libertades Civiles fue una de las primeras organizaciones que se pronunció por la regulación, después de anunciar que obtuvo documentos sobre el uso de Amazon Rekognition para equipar a fuerzas policiacas. La organización manifestó que este tipo de uso “plantea profundas preocupaciones sobre las libertades y derechos civiles […] una vez que se construyan y desplieguen sistemas de vigilancia automáticos y potentes como estos, el daño será extremadamente difícil de deshacer.”
En diciembre pasado, un director de Microsoft instó a los legisladores estadounidenses a establecer reglas sobre el RF para evitar una carrera sobre una espiral hasta el fondo —observación que recalcó Satya Nadella en Davos—.
Las reacciones tampoco han sido las que Microsoft esperaba. Por un lado, otras empresas de tecnología los criticaron aduciendo que tenían miedo a la competencia. Para la compañía con sede en Washington, el potencial del abuso va más allá de la auto vigilancia y auto contención de los jugadores de la industria, y por ello se requieren reglas claras. A nivel estatal, un grupo bipartidista presentó una propuesta que exigía la certificación que los sistemas en uso son igualmente precisos para personas de diferentes razas, tonos de piel, etnias, género o edad.
¿Cómo es el marco regulatorio actual?
A nivel internacional, no existe una regulación unificada para el uso del RF. En EE.UU., las leyes a nivel estatal y federal dejan a discreción de las autoridades de seguridad que puedan establecer sus propias políticas. Lo más cercano es la Cuarta Enmienda constitucional, que protege a los ciudadanos contra el espionaje, aunque la mayor parte de interés policiaco es aplicarla a imágenes recopiladas legalmente en público.
A nivel federal, hay interés de organizar audiencias ante el Congreso para informar sobre el tema. A nivel estatal, Texas, Illinois y Washington tienen leyes de privacidad para la recolección de datos biométricos, por lo que las compañías requieren permiso para hacerse desde huellas digitales hasta RF.
A nivel municipal, las ciudades californianas de Berkeley, Davis, Oakland, Santa Clara y San Francisco han tomado acciones alrededor del RF, al que ven como tecnología de espionaje. Ahora exigen cierta transparencia y un proceso ordenado para utilizarla. Algunas propuestas más ambiciosas buscan reportes anuales y hasta la prohibición de la tecnología, ya que solo ven un uso coercitivo u opresivo.
Hacia una regulación del RF
La regulación del RF debe ser una prioridad para países latinoamericanos, que están inmersos en una profunda transformación tecnológica, con gobiernos más interesados en utilizarla. Por ejemplo, el gobierno de la Ciudad de México anunció que se utilizará la tecnología en las 22 estaciones del metro más críticas con el fin de “mejorar el servicio al usuario”.
Nos encontramos en un caso típico en el que la tecnología se mueve más rápido que los reguladores, pero hay derechos que deben ser protegidos. Compañías como Microsoft apoyan medidas así porque, al estar en innovación de vanguardia, han visto sus implicaciones.
Un marco básico para una regulación del RF debiera incluir los siguientes apartados.
1. Casos de uso prohibido o con alto nivel de regulación: Debe definir el concepto de aceptabilidad para uso de la tecnología. Se pueden definir casos estrictamente prohibidos y debe facilitar los cambios en el camino, ya que los abusos no ocurren desde el principio, sino a medida que la tecnología se acepta y se afianza.
2. Protección: Se refiere a reglas para defender derechos universales (no discriminación, por ejemplo), poblaciones vulnerables (menores de edad, entre otros), minorías (raciales, étnicas, entre otras) y áreas sensibles (hospitales, escuelas, baños, entre otros).
3. Transparencia: El RF puede ser legislado dentro del marco de recolección de datos biométricos, que generalmente requieren que las personas sean notificadas, y en algunos casos, den su consentimiento. Aquí hay que tener cuidado que la forma de aplicar esta regla sea práctica, ya que generalmente estas legislaciones derivan en papeleo y aumento de burocracia.
4. Rendición de cuentas y atención a sesgos: Se deben abrir protocolos para que terceros de confianza puedan realizar pruebas y comparaciones sobre los motores de RF, de forma que muestren precisión y no tengan sesgos injustos, incluidos los raciales.
5. Supervisión humana: Al menos para esta generación de RF, sería valioso exigir que los algoritmos tengan supervisión humana relevante mientras estén trabajando. Los revisores deberán estar capacitados para prever y responder a escenarios complejos de uso, y tomar decisiones relevantes.
6. Educación sobre RF: Como en muchos casos tecnológicos, las personas saben poco —y les interesan poco— las implicaciones del RF. Es por ello que, así como se está comenzando a capacitar desde la educación básica sobre el consumo de noticias en la época de las fake news y sus riesgos, se haga una concientización análoga para RF.
7. Uso en el sector público: La legislación debe marcar reglas claras a los gobiernos y los cuerpos de seguridad —con participación de especialistas y organizaciones civiles— sobre el uso responsable de esta tecnología, incluyendo protocolos de actuación. Más aún, deben legislarse inclusive casos excepcionales como seguridad nacional y emergencia, así como distinguir su uso en espacios públicos —no es lo mismo utilizarla en una calle cualquiera que en una manifestación o dentro de un estadio—. Igualmente, tiene que asegurarse que no se le dé un uso discriminatorio.
Como se ha visto aquí, el marco regulatorio del RF puede ser muy directo y su objetivo debe ser el de velar por el bien común y generar confianza. Inclusive, puede mejorar nuestra vida en caso de que nos permita contar con espacios públicos y privados más seguros. Pero para ello, tenemos que comenzar con su discusión.
El científico e innovador, Fernando Fischmann, creador de Crystal Lagoons, recomienda este artículo.
