El futuro de la automoción se encamina hacia los coches autónomos. Y ya tenemos algunos destellos de ello en el presente; ya sea en la forma de robotaxis como los de Waymo o Cruise en Estados Unidos, o a través de sistemas como la conducción autónoma total de Tesla o el Blue Cruise de Ford. Sin embargo, se ha encontrado un grave problema en las tecnologías que utilizan inteligencia artificial para ofrecer una experiencia de conducción de manos libres: son un peligro para los niños y las personas de piel oscura.
Un trabajo firmado por 6 investigadores de la Universidad de Beijing, el King's College y la University College de Londres, arrojó una conclusión alarmante. Los sistemas de conducción de los coches autónomos potenciados por IA tienen un sesgo a la hora de detectar peatones. ¿Esto qué significa? Que su tasa de precisión es menor cuando quienes intentan cruzar la calle son, como dijimos, niños o personas con tonos de piel más oscuros.
Los expertos aseguran que esta problemática es mucho más importante de lo que se cree, puesto que no se ha estudiado tan ampliamente como otras vinculadas con la inteligencia artificial. La investigación indica que los coches autónomos son un 19,67 % más precisos al detectar a peatones adultos en comparación con niños. Mientras que al cotejar distintos tonos de piel, la disparidad en la efectividad de los sistemas es de un 7,52 % en beneficio de los más claros.
La IA de los coches autónomos tiene un sesgo que afecta a niños y personas de piel oscura
El estudio de los expertos se basa en cuatro sets de datos que han sido "extensamente estudiados" para evaluar el rendimiento de la detección de peatones en los coches autónomos. Los mismos son CityPersons, Berkeley Driving y EuroCityPersons; este último, dividido en dos partes, una con imágenes capturadas de día y la otra de noche. Vale mencionar que la información ha sido recopilada a partir de 8 sistemas de detección avanzados.
De esta forma, los investigadores accedieron a más de 8.300 imágenes capturadas por las cámaras de los coches autónomos en situaciones de conducción real. Pero no se limitaron a ello, puesto que clasificaron manualmente la información para contar con material más preciso. Así, por ejemplo, lograron etiquetar más de 20.000 edades y 3.500 tonos de piel. También pudieron especificar el género de los peatones. Aunque llegaron a la conclusión de que la IA no tiene mayores inconvenientes al identificar a los transeúntes según dicho parámetro.
Otro punto interesante es que se estudiaron situaciones registradas en diferentes momentos del día y bajo distintas condiciones climáticas. Sin embargo, se debió limitar esto último a escenarios generalistas —con lluvia o sin lluvia—, debido a que no todos los sets de datos contaban con imágenes de entornos con nieve o niebla. Curiosamente, la lluvia tiene un impacto menor y estadísticamente insignificante en los problemas de detección de la inteligencia artificial usada en coches autónomos.
El problema de la inteligencia artificial se agrava por las noches
El sesgo de la IA que los coches autónomos utilizan para detectar peatones se agrava durante la noche. Y también en escenarios donde el brillo o el contraste son bajos. Al hablar de niños, los datos son muy preocupantes. La diferencia en la tasa de fallos al comparar entre adultos y pequeños se incrementa del 22,05 % (día) al 26,63 % (noche).
La historia no mejora con los fallos diurnos y nocturnos entre personas con pieles claras y las de tonos más oscuros: suben del 7,14 % al 9,68 %, en detrimento de las últimas. En síntesis, entonces, los peatones están más expuestos a ser embestidos por coches autónomos cuando son niños o personas de piel oscura. Un peligro que se agrava cuando cae el sol, o cuando desmejoran las condiciones de iluminación para las cámaras incorporadas en los vehículos.
Con la IA cada vez más integrada en nuestra vida cotidiana, lo que exponen los expertos no debe tomarse a la ligera. Después de todo, los problemas ya están a la vista, cuando los coches autónomos aún representan una parte mínima del parque automotor global.
Si los ingenieros que desarrollan estos sistemas no toman medidas para contrarrestarlos en lo inmediato, el riesgo de muerte de los transeúntes podría incrementarse drásticamente. Pero no solo eso. Las automotrices también podrían quedar expuestas a extensos escrutinios legales y regulatorios que dificultarían o paralizarían el desarrollo y la implementación de una tecnología que, en la teoría, se ha pensado para disminuir los accidentes de tránsito.