Cómo el reconocimiento facial va a cambiar el mundo
El reconocimiento facial existe desde hace aproximadamente una década, pero en los últimos tiempos el público ha empezado a expresar su preocupación por el uso que pueda hacerse de él en el futuro. No es de extrañar, ya que otras partes de nuestra privacidad se ven comprometidas cada día.
CluPad es una publicación que cuenta con el respaldo de los lectores. Para recibir nuevos posts y apoyar mi trabajo, considera convertirte en un suscriptor gratis o de pago.
Uno de los primeros usos comerciales del reconocimiento facial es la función de etiquetado inteligente de fotos de Facebook, que mira tus fotos e intenta identificar a las personas que podrían aparecer en ellas.
El reconocimiento facial es una de las tecnologías que más desarrollo está teniendo y que más controversia está generando.
Usos del reconocimiento facial
Estamos empezando a acostumbrarnos a noticias que informan de sistemas que utilizan esta tecnología para reconocimiento de clientes, facilitar el embarque a los aviones como hace Iberia o controlar a los viajeros de los trenes como tiene pensado Renfe.
Pero también hay toda una serie de noticias que deberían ponernos sobre aviso a lo que puede suponer una total invasión de nuestra privacidad sin que ni siquiera nos demos cuenta de ello.
El reconocimiento facial puede ser utilizado de muchas formas. El principal objetivo es el control de movimientos de personas. Son muchos departamentos de policía los que los utilizan, incluso sin permiso, como se acaba de descubrir en EE. UU. dónde miles de policías y funcionarios públicos han utilizado el software de Clearview AI, que envió pruebas gratuitas a más de 7.000 funcionarios que lo utilizaron sin autorización de sus departamentos.
También los ejércitos están trabajando con esta tecnología, en EE. UU. sus fuerzas armadas están enseñando a sus sistemas de reconocimiento facial a ver en la noche. Y por supuesto, se utiliza para la identificación como hizo el FBI con los asaltantes al Capitolio. Y si pensáis que llevando mascarilla ya estáis a salvo, pues no, gracias a la pandemia los han entrenado para reconocer incluso con mascarilla. Eso sí, todavía no ha llegado a los smartphones que para utilizar los desbloqueos y autorizaciones por “la cara” te debes quitar la mascarilla.
El reconocimiento facial, un elemento clave en la nueva colonización digital
China es uno de los países que está poniendo las bases de su nuevo imperio digital. Hemos entrado en una era de colonización digital en la que determinados países exportan su tecnología de manera subvencionada con dos objetivos. El primero es el acceso a los datos de estas nuevas colonias digitales sin tener ningún tipo de restricción, y el segundo es asentar su dominio tecnológico en este escenario de guerra fría que se está dando, principalmente entre Estados Unidos y China.
China exporta su tecnología a países que quieren su tecnología de reconocimiento facial para control de la población. Las empresas chinas han exportado tecnología de vigilancia de inteligencia artificial a más de 60 países, entre ellos Irán, Myanmar, Venezuela, Zimbabue y otros con pésimos historiales de derechos humanos, según un informe de un grupo de expertos estadounidense.
Extender este uso del reconocimiento facial puede ayudar a mantener gobiernos autoritarios y dibujar un escenario global más distópico de lo que todos desearíamos.
Reconocimiento Facial, con fallos
El reconocimiento facial puede ser utilizada para detectar el tipo de personalidad y si se es un delincuente, como reclamaba en 2016 Facepcition, una empresa de Israel, o sencillamente para decidir quién merece un puesto de trabajo como anunciaba en 2019 HireVue.
Evidentemente el campo de las emociones es uno en el que se está trabajando más, pero eso no quita que el sesgo racial haya estado presente durante mucho tiempo en este tipo de tecnología. Y a pesar de los test y de las mejoras conseguidas, todavía se siguen produciendo este tipo de sesgos, por ejemplo el software de Lockport Schools clasificaba a los alumnos negros con un mayor porcentaje de riesgo.
En Sesgo Codificado, un documental que podéis ver en Netflix, investiga el sesgo de los algoritmos después de que la investigadora del M.I.T. Media Lab Joy Buolamwini descubriera fallos en la tecnología de reconocimiento facial.
Para intentar poner remedio a esta situación hay varias organizaciones trabajando en ello. Una es Code 2040, una organización sin ánimo de lucro creada para derribar las barreras del racismo y la desigualdad en la industria de la tecnología.
Podéis probar en Emojify intentar mostrar las emociones que os pide la máquina para ver si es capaz de leerlas correctamente… No es una tarea fácil, hay que echarle teatro. Y es que este juego está hecho precisamente para que te des cuenta de que las emociones, los sentimientos no están ligados a una expresión facial concreta, ya que se puede simular perfectamente. Muchos califican a este reconocimiento de emociones de pseudociencia.
«Este es el objetivo del sitio, dice la creadora Alexa Hagerty, investigadora del Centro Leverhulme para el Futuro de la Inteligencia y el Centro para el Estudio del Riesgo Existencial de la Universidad de Cambridge: demostrar que la premisa básica en la que se basa gran parte de la tecnología de reconocimiento de emociones, que los movimientos faciales están intrínsecamente ligados a cambios en los sentimientos, es errónea.»
En España, más de 70 investigadores y académicos piden al Gobierno una moratoria en el uso del reconocimiento facial hasta su regulación, “por sus graves deficiencias y riesgos“. Organizaciones como XNet se han sumado a esta lucha por los derechos civiles. En otros países como Francia organizaciones como La Quadrature du Net han llegado a los tribunales por este tema.
El activismo de la sociedad civil puede modificar las cosas. En su lucha de David contra Goliat de vez en cuando consiguen darle la vuelta a la tortilla.
Un problema sin solución
La legislación debería ser un elemento que tendría que aportar parte de la solución. En Europa el RGPD no se hizo pensado para el reconocimiento facial o la minería de datos, tres años después, ya piden renovarlo.
Pero el problema, como hemos visto, va más allá. El uso sin permiso de esta tecnología es algo habitual hasta con las cosas más insospechadas. ¿Habéis pensado si vuestras fotografías han sido utilizadas para entrenar alguno de estos sistemas? Si tenéis fotos en Flickr podéis utilizar una herramienta que os dice si se han utilizado o no.
Si realmente os preocupa que se utilicen vuestras fotos de Redes Sociales para entrenar estos sistemas un equipo de investigadores ha creado una herramienta que modifica las fotografías para evitar que sean procesadas por sistemas de aprendizaje automático.
Incluso, en Moscú puedes espiar a cualquiera por menos de 200 euros gracias a las cámaras de vigilancia instaladas en la ciudad. Una joven activista rusa ha comprado por 170 euros un informe con 80 fotografías y ubicaciones suyas, tomadas por el sistema de vigilancia de Moscú. Estos informes se venden por Telegram y se confeccionan gracias a las más de 105.000 cámaras de vigilancia que hay instaladas en la capital rusa.
El reconocimiento facial es una de las tecnologías más invasivas para la privacidad de las personas. Su uso puede condicionar la libertad de movimientos e incluso limitar derechos y libertades. Se debe utilizar con sumo cuidado, se debe permitir su uso bajo unas estrictas condiciones y en ningún caso para invadir la esfera privada de las personas.
Cada pequeña cesión que hacemos al dejar que una red social nos utilice para entrenar sus sistemas de reconocimiento facial, cada vez que una empresa quiere que seamos sus clientes por la cara pensemos dos veces en el uso que se le va a dar y reaccionemos en consecuencia.