Journal des citations pour l'incident 115

Description: A company's AI predicting a person's gender based on their name, email address, or username was reported by its users to show biased and inaccurate results.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Genderify, endommagé Genderify customers and gender minority groups.

Statistiques d'incidents

ID
115
Nombre de rapports
3
Date de l'incident
2020-07-28
Editeurs
Sean McGregor, Khoa Lam
Applied Taxonomies
CSETv1_Annotator-1, CSETv1_Annotator-3, CSETv1, GMF

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

115

Special Interest Intangible Harm

no

Notes (AI special interest intangible harm)

There is no evidence or indication that the system led to any special interest intangible harms through its use or deployment.

Date of Incident Year

2020

Date of Incident Month

07

Date of Incident Day

Classifications de taxonomie CSETv1_Annotator-1

Détails de la taxonomie

Incident Number

115

Special Interest Intangible Harm

yes

Notes (AI special interest intangible harm)

It is unclear that any harmed entities can be characterized in this incident. Although the AI did exhibit bias against women, the extent of the harm stopped at the ineffectiveness of the tool.

Date of Incident Year

2020

Classifications de taxonomie CSETv1_Annotator-3

Détails de la taxonomie

Incident Number

115

Un service qui utilise l'IA pour identifier le sexe en fonction des noms semble incroyablement biaisé
theverge.com · 2020
Traduit par IA

Certaines entreprises technologiques font sensation lors de leur lancement, d'autres semblent faire un flop.

Genderify, un nouveau service qui promettait d'identifier le sexe d'une personne en analysant son nom, son adresse e-mail ou son no…

La plate-forme « Genderify » alimentée par l'IA s'arrête après un contrecoup basé sur les biais
syncedreview.com · 2020
Traduit par IA

Quelques heures seulement après avoir fait des vagues et déclenché une réaction violente sur les réseaux sociaux, Genderify – un outil alimenté par l'IA conçu pour identifier le sexe d'une personne en analysant son nom, son nom d'utilisateu…

Quelqu'un a créé une IA qui a prédit le sexe à partir d'adresses e-mail, de noms d'utilisateur. Ça s'est passé aussi bien que prévu
theregister.com · 2020
Traduit par IA

Les créateurs d'un outil controversé qui tentait d'utiliser l'IA pour prédire le sexe des personnes à partir de leur identifiant Internet ou de leur adresse e-mail ont fermé leur service après un énorme contrecoup.

L'application Genderify a…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

· 9 rapports
TayBot

Danger, danger! 10 alarming examples of AI gone wild

· 28 rapports
Networking Platform Giggle Employs AI to Determine Users’ Gender, Allegedly Excluding Transgender Women

This girls-only app uses AI to screen a user’s gender — what could go wrong?

· 2 rapports
Incident précédentProchain incident