Microsoft pide regulación de las tecnologías de reconocimiento facial

Las tecnologías de reconocimiento facial están cada vez más presentes en el mercado tecnológico. Desde el Face ID del iPhone X y sistemas similares en otros smartphones, al Windows Hello mediante cámaras IR en equipos con Windows 10 compatibles, pasando por el etiquetado automático de Facebook.

Los usos en consumo sólo son la punta del iceberg. Hace poco conocimos la «rebelión» de 4.000 empleados de Google firmando una petición interna en el que exigían a su compañía la salida del Project Maven, un programa militar de inteligencia artificial y aprendizaje automático impulsado por el Departamento de Defensa de Estados Unidos con objetivos como clasificar automáticamente imágenes de objetos y personas para uso militar. Google tiene un contrato con el Pentágono para este proyecto en el que aporta unas tecnologías de AI y aprendizaje profundo que se encuentran entre las más avanzadas del planeta.

Lo mismo Amazon, enfrentada a duras críticas por suministrar tecnología de reconocimiento facial a las fuerzas del orden de Oregón y Orlando, en documentos obtenidos por la Unión Estadounidense de Libertades Civiles mediante una petición por la Ley de Libertad de Información, usada para vigilancia masiva que podría afectar sobre todo a los colectivos y comunidades más vulnerables, personas que no son blancas e inmigrantes. Y no es solo Google o Amazon. La misma Microsoft tiene tecnologías y contratos similares.

Las tecnologías de reconocimiento facial han avanzado de manera extraordinaria la última década, hoy son sencillas de obtener, desplegar y usar. Como otras tecnologías -véase la problemática de la Inteligencia Artificial- su uso tiene ventajas e inconvenientes. Brad Smith, presidente y responsable jurídico de Microsoft, ha abordado la cuestión en una entrada en el blog de la compañía bajo dos ideas que a su juicio son fundamentales:

«Las tecnologías de reconocimiento facial necesitan regulación pública y responsabilidad corporativa»

Smith revisa escenarios positivos como localizar un niño desaparecido, ayudar a la policía a identificar un terrorista o como ayuda a personas discapacitadas. También describe situaciones negativas que afectan a derechos fundamentales y al de la privacidad: «Imagina un gobierno rastreando masivamente los pasos de cualquier persona sin su permiso o conocimiento. Imagina una base de datos de todos los que asistieron a un mitin político que constituye la esencia misma de la libertad de expresión. Imagínate tiendas de un centro comercial que utiliza reconocimiento facial para obtener y vender información sobre cada estante que explora y el producto que compra, sin preguntar al usuario».

«Todo esto ha sido durante mucho tiempo materia de ciencia ficción y lo han mostrado películas populares como «Minority Report», «Enemy of the State» e incluso «1984», pero ahora está a punto de ser posible«, asegura el ejecutivo. Es por ello que Microsoft hace un llamamiento a los gobiernos para que creen un marco normativo común para el reconocimiento facial. Si bien admite que las empresas tecnológicas tienen un papel que desempeñar como responsabilidad corporativa, la cuestión requiere que los gobiernos promulguen reglamentos, ya que no todas las empresas van a establecer sus propias reglas de ética, particularmente en un entorno tecnológico tan competitivo.

Cómo se deben regular las tecnologías de reconocimiento facial

El presidente de Microsoft estima que como punto de partida, los gobiernos deberían considerar los siguientes asuntos:

• ¿Qué tipos de medidas legales pueden evitar el uso de reconocimiento facial para crear perfiles raciales y otras violaciones de derechos fundamentales al tiempo que se permiten los usos beneficiosos de la tecnología?
• ¿Debería la ley exigir que los minoristas publiquen un aviso visible de su uso de la tecnología de reconocimiento facial en los espacios públicos?
• ¿Debería la ley exigir que las empresas obtengan el consentimiento previo antes de recolectar las imágenes de las personas para el reconocimiento facial? De ser así, ¿en qué situaciones y lugares debería aplicarse esto? ¿Y cuál es la forma apropiada de solicitar y obtener dicho consentimiento?
• ¿Debería el uso de la ley del reconocimiento facial estar sujeto a supervisión y control humano, incluyendo restricciones sobre el uso de tecnología inadecuada como evidencia de la culpabilidad de un individuo o la inocencia de un crimen?
• De manera similar, ¿debemos asegurarnos de que exista una supervisión civil y responsabilidad por el uso del reconocimiento facial como parte de las prácticas gubernamentales de esta tecnología en seguridad nacional?
• ¿El uso del reconocimiento facial por parte de las autoridades públicas u otras personas debe estar sujeto a niveles mínimos de rendimiento en la precisión?
• ¿Debemos garantizar que las personas tengan derecho a saber qué imágenes se han recopilado y almacenado que se han identificado con sus nombres y caras?
• ¿Deberíamos crear procesos que ofrezcan derechos legales a las personas que creen que han sido identificadas erróneamente por un sistema de reconocimiento facial?

La exposición del presidente y responsable jurídico de Microsoft es interesante, positiva y sobretodo necesaria, pero también suscita cuestiones a cualquiera que las lea. ¿La regulación gubernativa la desarrollarán los mismos que espían a mansalva a todo lo que se mueve en el planeta – véase NSA? ¿Pondremos al «zorro a cuidar de las gallinas»? En cuanto a la responsabilidad corporativa-ética, ¿por qué Microsoft no da ejemplo declarando un compromiso explícito de no involucrarse en ningún tipo de proyecto militar-policial-gubernamental como pidieron un grupo de científicos en el caso del Proyecto Maven?

Recordemos que estos académicos (300 expertos en robótica, inteligencia artificial, relaciones internacionales, seguridad, ética y derecho) pusieron en el punto de mira a todas las tecnológicas: “Los contratos del Departamento de Defensa bajo consideración de Google y los contratos similares ya en vigencia con Microsoft y Amazon, señalan una peligrosa alianza entre la industria tecnológica privada, actualmente en posesión de grandes cantidades de datos personales confidenciales recabados de personas de todo el mundo, y el ejército de un país”.

No somos optimistas. Te toca valorar. Más información | Brad Smith – Microsoft