Twitter analizará los potenciales «daños no intencionales» que produzcan sus algoritmos al no aplicarse de modo equitativo. El plan fue presentado bajo el nombre de Iniciativa de Aprendizaje Automático Responsable (Responsible Machine Learning Initiative), y los resultados estarán disponibles públicamente.

«El uso responsable de la tecnología incluye estudiar los efectos que puede tener a lo largo del tiempo. Cuando Twitter usa aprendizaje automático puede afectar a cientos de millones de tweets por día y, a veces, la forma en que se diseñó un sistema para ayudar puede comportarse de un modo diferente al previsto», indicaron.

Los potenciales daños provocados por los algoritmos de Twitter serán estudiados en conjunto por ingenieros y científicos de datos. En primera instancia se analizarán tres problemáticas, que en los últimos meses generaron varias críticas a la plataforma.

Uno de los inconvenientes más notorios lo provocó el algoritmo de recorte de imágenes. Usuarios denunciaron que dicha herramienta mostraba una tendencia a funcionar mejor en fotografías de personas con tonos de piel más claros.

Además, Twitter evaluará las recomendaciones que hace a través del timeline en todos los subgrupos raciales. Y, por último, analizará las recomendaciones de contenido para diferentes ideologías políticas en siete países, aunque no especificó cuáles.

«Es posible que los resultados de este trabajo no siempre se traduzcan en cambios visibles en el producto», explicaron desde Twitter. Sin embargo, remarcaron que generarán «mayor conciencia y debates importantes» sobre cómo la empresa desarrolla e implementa el aprendizaje automático. Los resultados de las investigaciones estarán disponibles en los próximos meses.

Aprendizaje automático responsable, una iniciativa de cuatro pilares

Foto por Daddy Mohlala en Unsplash

De acuerdo al anuncio realizado por Twitter, su nuevo plan se basará en cuatro puntos claves. La red social se comprometió a asumir la responsabilidad en sus decisiones algorítmicas, como también a brindar resultados justos y equitativos, a habilitar la elección algorítmica y a ser transparentes sobre la toma de decisiones.

Queda claro que el impacto definitivo del estudio sobre los algoritmos de Twitter se verá con el paso del tiempo. De todos modos, es una importante oportunidad que se abre para que los servicios que poseen millones de usuarios rindan cuentas frente a ellos. «La retroalimentación de parte del público es particularmente importante, mientras evaluamos la imparcialidad y equidad de los sistemas automatizados que utilizamos», expresaron.

Ahora en Hipertextual

Suscríbete gratis a Hipertextual

Estamos más ocupados que nunca y hay demasiada información, lo sabemos. Déjanos ayudarte. Enviaremos todas las mañanas un correo electrócnio con las historias y artículos que realmente importan de la tecnología, ciencia y cultura digital.