15 minutos. El programa de recompensas lanzado por Twitter para identificar los potenciales daños de su algoritmo de recorte de imágenes reafirmó la presencia de sesgos, ya que favorece las fotos de personas de piel clara, jóvenes y femeninas.
Twitter compartió los resultados del programa de recompensas diseñado para mejorar su algoritmo de recorte de imágenes. La iniciativa animaba a los hackers a ayudar a conocer los potenciales daños que pudiera generar.
Los ganadores, desvelados este lunes en la convención DefCon, aportaron una perspectiva novedosa para afrontar el problema de los daños no intencionados y las vías de explotación que podrían existir en el algoritmo, como explicó la compañía en la red social.
Uno de ellos mostró que el algoritmo de Twitter “amplifica los sesgos del mundo real y las expectativas sociales de belleza“. Así, muestra preferencia por aquellos rostros de personas con pieles claras, cálidas y suaves, más jóvenes y más femeninas.
El segundo demostró que el algoritmo perpetuaba la marginación de determinados grupos sociales que quedaban excluidos de los recortes de fotos. Tal es el caso de los ancianos y las personas con discapacidad.
En tercer lugar, Twitter reconoció un trabajo basado en memes bilingües, en los que el algoritmo priorizaba aquellos con texto en escritura latina sobre el texto en árabe. de esta manera, se afecta la diversidad lingüística en la plataforma.
Como trabajo más innovador, también se reconoció una propuesta con emoji. El algoritmo favorecía a aquellos que tenían un tono de piel claro en aquellos conjuntos donde un emoji se representaba con distintos tonos de piel.
