IBM se suma a las preocupaciones de las grandes empresas por el reconocimiento facial y las implicaciones que puede tener este en todos los ámbitos de la sociedad. El escáner e identificación de los rostros es una de las tecnologías punteras en la actualidad, objeto de todo tipo de aplicaciones y siendo especialmente atractiva para los gobiernos, organismos de policía y departamentos dedicados a la defensa.
La polémica con estos nuevos avances está a la orden del día debido a la pobre calidad de los resultados que son capaces de ofrecer en la actualidad, donde se pueden encontrar fallos o errores de funcionamiento al reconocer a personas de raza negra, por ejemplo. Una polémica que ha salpicado de manera importante a Microsoft en los últimos tiempos al conocerse que su sistema de reconocimiento facial tenía una tasa de error de más del 20 % cuando se trataba de identificar a personas de color mientras que esta cifra descendía al 0 % cuando se trataba de hombres blancos.
Microsoft intensifica su apuesta por la IA y compra Bonsai, una startup especializada
El problema de todo esto se encuentra en las imágenes y parámetros de las bases de datos que se utilizan para entrenar a los sistemas de reconocimiento facial o, más concretamente, en la falta de ellos. Unos errores, precisamente, que ahora quiere ayudar a subsanar IBM.
Dos grandes bases de datos para poner fin a la controversia
Si bien Microsoft ha realizado grandes avances mejorando los sistemas de refinamiento y reconocimiento de identidades, IBM quiere que todos los sistemas de otras empresas puedan hacer lo propio. De esta manera, hará públicas las que ha calificado como las "bases de datos faciales más grandes del mundo" para que el entrenamiento de los sistemas pueda llevarse a cabo de manera propicia y "responsable", dando como resultado una utilidad libre del máximo número de errores posible.
La primera de las bases de datos contará con más de 1 millón de imágenes (la más grande hasta el momento contiene 200.000, según destaca IBM) y se centrará en los atributos –color de pelo o de ojos, por ejemplo– y la identidad –distinguir a un individuo entre el resto–, algo que tampoco se ha realizado de manera combinada en una base de datos, centrándose las existentes bien en un apartado o bien en otro. También aprovechará las etiquetas de Flickr que permitan enriquecer el aprendizaje a través de localizaciones geográficas.
La segunda de ellas es más específica que la primera y mucho más reducida en cantidad, incorporando 36.000 imágenes que componen una mezcla por igual entre etnias, géneros y edades, dando lugar a una muestra lo suficientemente diversa como para poner a prueba los sistemas existentes de una comapañía y ayudar a detectar los errores que se comenten en la identificación de sujetos. El correcto entrenamiento de estos sistemas, aseguran desde IBM, es "esencial".
Creemos que ninguna tecnología, sin importar cuán precisa sea, puede o debe reemplazar el juicio humano, la intuición y la experiencia. El poder de las innovaciones, como la IA, radica en su capacidad para refinar, no reemplazar, la toma de decisiones humanas. Por lo tanto, es fundamental que cualquier organización que utilice inteligencia artificial, incluidas capacidades de reconocimiento visual o análisis de vídeo, capacite a los equipos que trabajan con ella para comprender los prejuicios, incluidos los prejuicios implícitos e inconscientes, controlarlos y saber cómo abordarlos.
Este texto de la compañía es de especial relevancia en un momento en el que las principales compañías tecnológicas de Estados Unidos están teniendo que justificar su trabajo con el Gobierno en diferentes ámbitos en lo que al reconocimiento facial se refiere. Por un lado, Google se vio forzada a abandonar un proyecto que tenía con el Pentágono para proporcionar inteligencia artificial al departamento de Defensa.
Empleados de Amazon piden a Jeff Bezos que no venda tecnología de reconocimiento facial al Gobierno
Más recientemente, los empleados de Amazon emitieron una carta para Jeff Bezos en la que pedían que Rekognition, el sistema de reconocimiento facial de la compañía, dejase de ser proporcionado a la policía bajo la creencia de que estaría siendo utilizado de manera injusta con los inmigrantes que intentaban entrar en el país. Es de esperar que todo lo concerniente a este asunto adquiera mayores dimensiones con el paso del tiempo, poniendo en relevancia la importancia no solo de la mejora de los sistemas, sino de su correcto uso por parte de la sociedad.
