edición general

Amazon ha dejado de usar por sexista a la inteligencia artificial que le revisaba los currículums

A ver, como dicen, la inteligencia artificial esta entrenada por una base de datos y si la base de datos esta mas inclinada a hombres, supongo que tendrá el sesgo de elegir a hombres.
Pero eso hace preguntarnos dos cosas, la base de datos es sexista o es que la base de datos representa la realidad, a lo mejor es que la mayoría de los curriculums de programación llegan de hombres, a lo mejor hasta ahora los candidatos mas elegidos por los reclutadores han sido hombres(cosa que tampoco tiene que significar sexismo, sino tanto por volumen como adecuación para el puesto).

Por otro lado también hay que tener en cuenta que antes de pasarle los datos a la inteligencia artificial se suelen normalizar y se quita la información irrelevante, como por ejemplo una columna que en toda la base de datos tiene el mismo valor(que podría ser el genero), o se puede obviar alguna información aposta para que el sistema no la tome en cuenta.

La verdad es que el articulo no parece entrar en que revisiones han hecho para decidir que la IA es sexista, pero yo me apuesto que gran peso en la decisión no es por fallo del algoritmo o de los datos, sino que no estan bien vistos los resultados.
#18 me queda la duda de que habian usado de funcion de coste. Me explico, como relacionan los CV con la calidad de la persona como trabajador? Doy por hecho que estan con aprendizaje supervisado
#21 A ver, no creo que tenga sentido que no sea supervisado. Por el lado de la función de coste no se cuan compleja es la recolección de datos y su procesamiento previo antes de alimentar la AI. Pero por lo que leo del articulo de reuters, entiendo que lo hacen en base al texto y que toman todo el texto en cuenta.

In effect, Amazon’s system taught itself that male candidates were preferable. It penalized resumes that included the word “women’s,” as in “women’s chess club captain.” And it downgraded graduates of two all-women’s colleges, according to people familiar with the matter.


Con eso tampoco deja claro como han decidido que esos eran los factores que influyan en el valor del CV.

Pero si, no esta claro como calculan el valor de CV, y sin es complicado opinar de manera mas objetiva.

menéame