Pourquoi il est temps d'arrêter croire aveuglément dans les grandes données
Vie / / December 19, 2019
les algorithmes décident maintenant qui approuvent le prêt, l'assurance ou qui reçoivent une invitation pour une entrevue, mais souvent ils le font de façon injuste. Et il ne fait qu'accroître l'écart entre les couches de la population.
Katie O'Neill (Cathy O'Neil)
Le mathématicien, sur l'analyse des marchés financiers spécialisés, auteur du livre « Les armes de la défaite mathématique. »
Pour construire un algorithme, nous avons besoin de deux choses: les données (ce qui est arrivé dans le passé) et la définition d'un résultat positif (ce que vous voulez trouver en utilisant cet algorithme). Il détermine ensuite quels critères conduisent à un résultat positif. Mais la définition du succès ne peut être universel.
Algorithme - est l'opinion de quelqu'un d'autre, le code intégré.
Nous avons l'habitude de penser que les algorithmes sont objectives et fiables, mais il est seulement un truc de marketing conçu pour nous intimider et nous faire confiance dans les algorithmes et les données mathématiques.
O'Neill cite des exemples où les algorithmes peuvent causer des dommages graves. Cela se produit lors de l'évaluation des employés. Par exemple, en 2011 dans une école du comté de Washington ont été licenciés plus de 200 enseignants après leur éliminer l'algorithmeMême si elles avaient d'excellentes recommandations de leurs parents et leurs pairs.
En outre, les algorithmes sont souvent la raison de la suppression des verdicts biaisés. Nouvelles organisation ProPublica a récemment mené une enquête et trouvéQue les algorithmes qui déterminent le risque de récidive, le travail de façon objective. Aux mêmes crimes des peines souvent retirées Noirs américains.
Nous sommes tous sujets à des biais, et nous les amenons dans les algorithmes qui décident quels besoins de données à prendre en compte.
Les algorithmes sont simplement répéter nos erreurs passées, automatisez l'ordre existant. Donc, nous ne pouvons pas leur faire confiance aveuglément, nous devons les tester pour être objectif: repenser la définition d'un résultat positif, l'erreur, ne sont pas assurés par un algorithme. À quelle fréquence ils se produisent et qui est affecté? Quel est le coût de ces erreurs?
Les professionnels qui travaillent avec les données ne doivent pas être les arbitres de la justice. Il est temps d'arrêter de croire aveuglément grandes données.