IEVENN
Tecnología

¿Racismo tecnológico? Los autos no tripulados distinguen peor a los peatones de piel oscura

Cursos Online Habbility.com

Un estudio denominado ‘Inequidad predictiva en la detección de objetos’ a cargo del Instituto de Tecnología de Georgia (EE.UU.)’, demuestra que las personas con tonos de piel más oscuros corren más riesgo de sufrir un accidente causado por un vehículo automatizado debido a las deficiencias de sus sistemas de reconocimiento de objetos.

La investigación, que está disponible en Arxiv, se basa en numerosos y recientes ejemplos que evidencian cómo los algoritmos de aprendizaje automático «muestran tasas de error más altas para ciertos grupos demográficos que otros». Si bien la habilidad de los coches no tripulados a la hora de reconocer «objetos claves», como peatones o señales de tráfico, desempeña un papel fundamental para evitar víctimas mortales, los sistemas de algunos «vehículos que ya están en carretera» resultaron ser incapaces de mitigar todos los riesgos posibles, reconoce el autor principal, Benjamin Wilson.

El grupo recopiló una gran cantidad de fotografías en las que se ven personas de varios tonos de piel y las mostró a los voluntarios a quienes se les pidió que marquen a los peatones y les asignen una de las cuatro categorías. Una de ellas corresponde al color de piel que no puede ser determinado, la segunda es para los objetos que parecen peatones, pero no lo son, y las dos restantes representan la escala de fototipo de piel de Fitzpatrick (1-3 puntos para los tonos de piel más claros, y 4-6 para los más oscuros).

Estos datos fueron introducidos en ocho algoritmos diferentes  de reconocimiento de imagen con el objetivo de que analizaran con qué frecuencia los sistemas de aprendizaje automático logran identificar la presencia de personas de todos los tonos de piel. Resultó que para el grupo con tono de piel más oscuro (de entre 4 y 6 en la escala de Fitzpatrick), la detección fue menos precisaen, aproximadamente, un 5% de los casos.

Curiosamente, este índice no se vio afectado por objetos que, parcialmente, bloquean a los peatones ni tampoco por la falta de luz natural. No obstante, los fallos del sistema no se deben tanto a la imperfección de propios algoritmos, sino a la insuficiencia de datos utilizados para diseñarlos y probarlos, sugieren los expertos.

Los modelos que utilizaron los autores del estudio no pertenecen a los desarrolladores de los vehículos en cuestión, ya que los fabricantes no hacen pública ese tipo de información, por lo que ensayaron varios modelos elaborados por los investigadores académicos, lo que no significa que el hallazgo del trabajo no sea fructífero.

«En un mundo ideal, los académicos estarían probando modelos reales y conjuntos de entrenamiento utilizados por los fabricantes de automóviles autónomos«, comenta la académica Kate Crawford, cofundadora del Instituto de Investigación AI Now de Nueva York. «Sin embargo, dado que nunca se ponen a disposición -lo que es un problema en sí mismo-, artículos como estos ofrecen datos sólidos sobre los riesgos reales«, concluye.

El peculiar videojuego (no es 'fake') en el que encarnas a Jesucristo

Medios

Destacadas armas rusas

Medios

Apple lanza el Mac Pro: hasta 28 núcleos y un precio mínimo de 6.499 euros

Medios

¿Te has quedado sin espacio en Gmail? Consejos para liberar espacio de tu correo

Medios

Avión eléctrico completa un primer vuelo comercial con pasajeros

Medios

Microsoft y el CCN-CERT dan un paso de gigante en la securización de los entornos cloud dirigidos a las Administraciones Públicas Españolas

Medios

Elecciones, el Muro de Berlín o Vox, lo más buscado en Google en España; Greta Thunberg y Notre Dame, en el mundo

Medios

Así se escuchaba la primera grabación de sonido del mundo realizada en 1877

Medios

Un iPhone sin cable es posible

Medios

El Redmi K30 de Xiaomi ya es oficial

Medios

Snapchat estrena Cameos, su nuevo filtro para hacer divertidos vídeos 'deepfake'

Medios

La Universidad de Almería pone el dato en el centro para mejorar el día a día de sus más de 14.000 alumnos y 1.000 trabajadores

Medios

Dejar Comentario