Apple Card fait l'objet d'une enquête sur des allégations selon lesquelles elle accorde aux femmes des limites de crédit inférieures

Catégorie: Intelligence artificielle Posté 11 novembre

L'algorithme qui détermine la limite de crédit pour les utilisateurs de la nouvelle carte de crédit d'Apple, lancée aux États-Unis en août, fait l'objet d'une enquête car il semble donner aux hommes des limites plus élevées que les femmes.

Les nouvelles: Le 7 novembre, l'entrepreneur du web David Heinemeier Hansson a posté un tweet devenu viral disant que l'Apple Card lui avait donné 20 fois la limite de crédit de sa femme. Et ce malgré le fait qu'ils ont produit des déclarations de revenus conjointes et que, après enquête, sa femme avait une meilleure cote de crédit que lui. Steve Wozniak, cofondateur d'Apple a répondu au tweet et a déclaré que lui aussi s'était vu accorder 10 fois la limite de crédit de sa femme, même s'ils n'avaient ni actifs ni comptes bancaires séparés.

Résultat: Le département des services financiers de New York lance maintenant une enquête sur Goldman Sachs, qui gère la carte. Sa surintendante, Linda Lacewell, dit dans un article de blog que le chien de garde examinerait si l'algorithme utilisé pour prendre ces décisions de limite de crédit viole les lois de l'État qui interdisent la discrimination fondée sur le sexe. Le régulateur a déjà a récemment ouvert une enquête dans des rapports selon lesquels un algorithme a fait en sorte que les patients noirs reçoivent des soins moins complets que les patients blancs.

Problème plus large : Goldman Sachs a publié une déclaration sur Twitter au cours du week-end, affirmant que le sexe n'est pas pris en compte lors de la détermination de la solvabilité. Mais la disparité inexplicable des limites de crédit de la carte est un autre exemple de la façon dont un biais algorithmique peut être créé involontairement. Les algorithmes du type utilisé pour évaluer la solvabilité sont formés sur des années de données historiques, et les biais peuvent se glisser dans le processus de différentes manières .