Últimas 15minutos

Facebook trabaja en sistema de inteligencia artificial para detectar sesgos de género

La empresa anunció que publicará de forma abierta los indicadores y el resto de herramientas contra el sesgo de género que desarrolle

El equipo de la empresa tecnológica propuso un marco de trabajo para analizar palabras y gramática en textos basado en tres pasos (Geralt/Pixabay)

15 minutos. Facebook está desarrollando un nuevo sistema de Inteligencia Artificial (IA) para detectar sesgos de género en un texto. Para ello comenzó a estudiar bases de datos con un nuevo enfoque basado en el papel que juega cada persona en una conversación.

"Los modelos de procesamiento de lenguaje natural pueden aprender inadvertidamente patrones socialmente indeseables cuando se entrenan con texto sesgado", como los sesgos de género. Así lo explicaron los investigadores de Facebook Research en un estudio académico publicado este mes.

El equipo de la red social propuso un marco de trabajo para analizar palabras y gramática en textos basado en tres pasos, y según el papel que tenga cada persona en una conversación. Así, estudiará al mismo tiempo el sesgo desde el género de la persona que escribe/habla, el género del interlocutor y el género de la persona sobre la que dice algo.

Clasificadores de sesgos

Al poder distinguir los sesgos de género en diferentes dimensiones, el marco de trabajo creado por la empresa informática permite "entrenar clasificadores de sesgos más precisos".

Utilizando esta metodología, los investigadores de la compañía estadounidense analizaron desde la perspectiva de género ocho bases de datos de texto utilizadas habitualmente para entrenar a algoritmos de IA, con algunas como Wikipedia, subtítulos de películas publicados en la web OpenSubtitles y valoraciones en Yelp.

Esto sirvió para descubrir sesgos de género en textos por ejemplo de Wikipedia, y sus conclusiones subrayan las diferencias en la clasificación de texto ofensivo.

Asimismo, Facebook realizará también un análisis colaborativo para evaluar las reescrituras de género a nivel de expresión. También anunció que publicará de forma abierta los indicadores y el resto de herramientas contra el sesgo de género que desarrolle.

Ver más