IA rédemptrice, biais et rêve américain

NRZ.Digital
0 0

Le rêve américain est la philosophie nationale des États-Unis – un ensemble d’idéaux qui incluent la possibilité de prospérité, de succès et d’accès à la mobilité sociale ascendante pour les individus et leurs familles. La dernière chose que chacun d’entre nous veut, c’est inventer et déployer des technologies qui sont des barrières à ce rêve.

L’intelligence artificielle (IA), mal configurée, peut devenir une barrière. Aujourd’hui, de nombreuses entreprises utilisent désormais l’IA pour interviewer des candidats, interpréter leur potentiel et les classer du meilleur au pire. À quel point les muscles du visage d’une personne sont émotifs, leur utilisation de la langue anglaise et la sophistication de leur vocabulaire sont désormais tous utilisés pour sélectionner ou rejeter des candidats à un poste.

On ne peut qu’imaginer à quel point les entretiens d’IA sont difficiles pour les immigrants et les réfugiés à la recherche de leur première grande opportunité. Les expressions faciales sont souvent influencées par la culture. L’anglais étant une deuxième, troisième ou quatrième langue, pourrait présenter toutes sortes d’obstacles pour passer les gardiens de l’IA et entrer dans le pays des opportunités.

En 1933, lorsque les nazis sont arrivés au pouvoir en Allemagne, Albert Einstein était en visite aux États-Unis. Il a choisi de rester à cause de la volonté… des nazis. En 1940, il devient citoyen américain. Avec ses origines allemandes et suisses, ses cheveux indisciplinés, sa moustache impressionnante et son accent prononcé, ce prix Nobel aurait-il pu passer le deuxième tour des entretiens d’embauche si l’IA avait été impliquée ?

L’IA, pour toute sa valeur et sa puissance, peut parfois utiliser la vérité comme un obstacle au progrès humain. Est-il vrai qu’aucune femme n’est jamais allée sur la lune ? Oui, mais cela devrait-il empêcher la future femme d’aller sur la lune ? Non. Il serait cependant compréhensible qu’une application d’IA utilisant la reconnaissance de formes analysait toutes les personnes qui ont déjà atterri avec succès sur la lune et n’ait trouvé que des hommes, excluant ainsi les femmes de toute considération future. Nous devons surveiller et empêcher que la vérité impartiale ne soit utilisée comme un obstacle aux opportunités, à l’égalité, au progrès et au rêve américain.

Si une personne est emprisonnée pour avoir fumé et possédé de l’herbe, cela devrait-il l’empêcher de réaliser le rêve américain pour le reste de sa vie ? Qu’en est-il des indiscrétions adolescentes d’une personne publiées sur les réseaux sociaux ? Cela devrait-il les empêcher d’être embauchés une décennie plus tard?

Hier, au cours de mes recherches, j’ai regardé une vidéo d’une entreprise technologique en démarrage qui utilise du contenu de médias sociaux accessible au public pour filtrer et évaluer automatiquement les candidats potentiels. Si vous aviez autorisé l’IA à accéder à votre flux de médias sociaux il y a 10 ans, leur analyse ferait-elle de vous un meilleur ou un pire candidat ?

Les réseaux sociaux ont une longue mémoire. La personne que vous étiez et les décisions que vous avez prises il y a 10 ans peuvent ne pas refléter la personne que vous êtes aujourd’hui. Je pense que nous bénéficierions tous d’une sorte d’option « IA rédemptrice », une fonctionnalité « droit à l’oubli » où nous pourrions remplir la période de temps.

De nombreux leaders d’opinion et organisations se concentrent aujourd’hui sur la nécessité d’une IA « impartiale ». Aussi importants que soient ces efforts, il me semble qu’il pourrait également y avoir un rôle pour l’IA « biaisée ». Un parti pris pour pardonner son indiscrétion passée ou son arrestation il y a 10 ans. Un parti pris pour l’égalité. Un parti pris pour donner aux gens qui travaillent dur une opportunité injustifiée dans les données. Un parti pris pour aider les gens dans leurs efforts pour réaliser le rêve américain.

Quelles sont vos pensées?

************************************************** *************************

Kevin Bénédict

Partenaire | Futuriste au TCS

***Divulgation complète : ce sont mes opinions personnelles. Aucune entreprise n’est assez stupide pour les réclamer. Je travaille avec et j’ai travaillé avec de nombreuses entreprises mentionnées dans mes articles.


Happy
Happy
0
Sad
Sad
0
Excited
Excited
0
Sleepy
Sleepy
0
Angry
Angry
0
Surprise
Surprise
0

Average Rating

5 Star
0%
4 Star
0%
3 Star
0%
2 Star
0%
1 Star
0%

Laisser un commentaire

Next Post

4 tactiques pour amener les SI à soumissionner sur votre projet

De nombreuses entreprises redémarrent leurs projets de transformation alors qu’elles passent de la protection de leur capacité de survie dans un marché volatil à l’accélération active de leurs transformations numériques pour rester compétitives dans un monde axé sur le numérique. Cela a augmenté la demande d’intégrateurs de systèmes (SI) qui […]

Abonnez-vous maintenant