Contenido
- ¿Lo que hay en un nombre?
- Si las computadoras pudieran hablar, ¿cómo deberían sonar?
- Sin errores, sin estrés: su guía paso a paso para crear software que cambie su vida sin destruir su vida
- Lo que la voz y las expresiones de Siri dicen sobre nosotros
- La tecnología puede haber avanzado, pero las mujeres ... no tanto
- Muy pocas mujeres trabajan en IA
- El camino a seguir
Fuente: Idey / Dreamstime.com
Para llevar:
Hay evidencia de un problema persistente de sesgo en la IA que podría ser una de las razones por las que vemos estereotipos de género manifestados en las identidades femeninas asociadas con los asistentes de IA.
¿Alguna vez se preguntó por qué Alexa no es Alex, que podría ser un apodo para cualquier género? En realidad, es irónico que una compañía con un nombre derivado de una feroz raza guerrera de mujeres simplemente haya caído en la práctica estándar de elegir al ayudante que recibe órdenes del usuario como mujer.
¿Lo que hay en un nombre?
De hecho, el nombre del agente de inteligencia artificial se deriva de Alejandría, una ciudad cuyo reclamo de fama en el mundo antiguo era su biblioteca, según Daniel Rausch, el jefe de la división "Smart Home" de Amazon. Le dijo a Business Insider que es para capturar la idea de la colección original de volúmenes que albergaba "todo el conocimiento colectivo del mundo en ese momento".
Pero podrían haber considerado con la misma facilidad el hecho de que la ciudad lleva el nombre de Alejandro Magno, y se fue con el nombre de Alex, un apodo adoptado por hombres y mujeres. En cambio, se fueron con la Alexa claramente femenina.
Amazon no está solo en esto. Apple eligió a Siri como el nombre de su asistente de voz que habla con una voz femenina. También se seleccionó una identidad femenina para Cortana de Microsoft. No parece ser solo una coincidencia que las tres identidades de IA más conocidas sean mujeres.
Probablemente todas las compañías hicieron el mismo tipo de investigación de mercado que Amazon dijo que hizo. (Para el lado no tan serio de Siri, echa un vistazo a Pardon Moi? Top Siri Fail s.)
Si las computadoras pudieran hablar, ¿cómo deberían sonar?
En la entrevista de Business Insider, Rausch dijo que "descubrieron que la voz de una mujer es más" comprensiva "y mejor recibida". El artículo decía que esta preferencia por las voces femeninas es anterior a las asistentes de inteligencia artificial.
Esa podría ser la razón por la cual la computadora a bordo del Enterprise habló con voz femenina. La voz era, de hecho, la de Majel Barrett-Roddenberry, esposa del creador de la serie "Star Trek", y más reconocida por los fanáticos por su papel recurrente como la enfermera rubia perfectamente peinada, Christine Chapel, que tuvo que obedecer obedientemente las órdenes de Dr. McCoy
En el video a continuación, en realidad está dando voz a una biblioteca al compartir la información en el archivo de la persona por la que el capitán está preguntando.
Sin errores, sin estrés: su guía paso a paso para crear software que cambie su vida sin destruir su vida
No puede mejorar sus habilidades de programación cuando a nadie le importa la calidad del software.
Es cierto que hay agentes de IA que están vinculados a identidades masculinas, como observó Chandra Steele de PC Mag en un blog de Medium este año. Pero generalmente están vinculados a tareas más serias que las relegadas al asistente virtual en su escritorio o teléfono. En consecuencia, Watson de IBM, que está asociado con cosas como la investigación médica, recibió la "voz de sonido masculino" que las personas asocian con confianza y liderazgo.
En contraste, las voces femeninas están asociadas con cordialidad y complacencia. "Aunque carecen de cuerpos", explicó Steele, "encarnan lo que pensamos cuando imaginamos a un asistente personal: una mujer competente, eficiente y confiable".
A veces incluso se les otorga un cuerpo virtual femenino, al menos uno que aparece en la pantalla. Ese es el caso de la agente cognitiva de IPsoft, Amelia. Como puede ver en el video a continuación, se la muestra como una rubia bastante joven (el color del cabello de Barrett-Roddenberry se tiñó el cabello por su papel visible como enfermera).
Amelia encarna a la mujer confiable que apoya a la encargada, en el fondo pero también un poco decorativa. Ella recuerda al asistente ideal previsto en la década de 1950. Al igual que Della Street, de Perry Mason, la secretaria por excelencia leal, ella siempre está allí para satisfacer las necesidades de su jefe masculino y no se niega a solicitarla ni a realizarle ninguna tarea.
Lo que la voz y las expresiones de Siri dicen sobre nosotros
Se supone que hemos logrado un progreso significativo con respecto a la igualdad de género desde mediados del siglo pasado, pero los asistentes de IA nos recuerdan que todavía tenemos un largo camino por recorrer. Ese fue el foco de un reciente estudio de la UNESCO titulado "Me sonrojaría si pudiera".
El título del estudio es una oración que la asistente de voz de género femenino de Apple, Siri, fue originalmente programada para decir en respuesta a los usuarios que la llamaban sexista. La buena noticia es que Apple actualizó la programación de Siri a principios de 2019 para ofrecer ahora un "No sé cómo responder a eso" más apropiado para la máquina cuando alguien hace tal declaración al agente de IA.
Sin embargo, como señala el informe, Apple lo dejó en reposo durante mucho tiempo, considerando que Siri fue lanzado en 2011. Ese es el quid de la cuestión.
La tecnología puede haber avanzado, pero las mujeres ... no tanto
Como señala el informe, la obsequiosidad 'femenina' de Siri, y el servilismo expresado por tantos otros asistentes digitales proyectados como mujeres jóvenes, proporciona una ilustración poderosa de los prejuicios de género codificados en productos tecnológicos, generalizados en el sector tecnológico y evidentes en las habilidades digitales. educación."
El informe toma el sexismo incrustado en la identidad femenina de la IA y las respuestas programadas debido a la brecha sistémica de género en la tecnología en general y en la IA en particular: “Hoy en día, las mujeres y las niñas tienen un 25% menos de probabilidades que los hombres de saber aprovechar la tecnología digital. tecnología para fines básicos, 4 veces menos probabilidades de saber cómo programar computadoras y 13 veces menos probabilidades de solicitar una patente de tecnología ".
Muy pocas mujeres trabajan en IA
Eso encaja con los hallazgos de los Sistemas Discriminadores del Instituto AI Now: Género, Raza y Poder. En las conferencias de IA, las mujeres representan solo el 18% de los autores representados y menos del 20% de los profesores de IA. La representación es aún peor en la industria. En las mujeres solo ocupan el 15% de los puestos del personal de investigación, y en Google el porcentaje cae a 10.
Por muy malos que sean esos números, son mejores de lo que dice el informe de la UNESCO sobre los solicitantes para tales puestos: "Los reclutadores para empresas de tecnología en Silicon Valley estiman que el grupo de solicitantes para trabajos técnicos en inteligencia artificial (IA) y ciencia de datos a menudo es menor más del 1 por ciento de mujeres ".
Según el informe de la UNESCO, existen graves consecuencias para ese desequilibrio: "A medida que los hombres continúan dominando este espacio, la disparidad solo sirve para perpetuar y exacerbar las desigualdades de género, ya que el sesgo no reconocido se replica y se integra en algoritmos e inteligencia artificial".
Explica que los "equipos dominados por hombres" son los que establecen los criterios que establecen una norma que "puede ser difícil de corregir cuando se señalan los prejuicios de género". El problema del sesgo de AI se abordó en AI's Got Some Explaining to Do . La IA no está creando el sesgo, sino que refleja los prejuicios de su programación.
"La IA no tiene nada de artificial", declaró Fei-Fei Li, una experta en el campo. "Está inspirado en las personas, está creado por las personas y, lo más importante, afecta a las personas". Así como "la basura entra, la basura" se aplica a todos los datos, lo mismo se aplica a lo que ella llama "sesgo dentro, sesgo" para sistemas de IA.
El camino a seguir
Entonces, ¿cómo podemos superar esos sesgos que se han incorporado a nuestras funciones de aprendizaje automático y moldear aún más nuestras expectativas? La respuesta, según el informe de la UNESCO, es educación: "La educación es donde se forjan las expectativas y se cultivan las competencias".
Li acepta que es posible remodelar el camino que se ha establecido. "Con la orientación adecuada, la IA mejorará la vida", afirma. "Pero sin ella, la tecnología puede ampliar aún más la división de la riqueza, hacer que la tecnología sea aún más exclusiva y reforzar los prejuicios que hemos pasado generaciones intentando superar".
Es hora de ir audazmente a donde el hombre no ha ido antes.