Retranscription des premières minutes du podcast :
- AGP, association d'assurés engagés et responsables, présente Sud Radio, le grand matin week-end, la force de l'engagement, Muriel Reus.
- Ce matin, engageons-nous pour une intelligence artificielle égalitaire.
- L'IA redéfinit notre monde.
- Elle influence le recrutement, l'accès aux prêts, la surveillance, la justice, la santé, la finance, la reconnaissance faciale.
- Mais derrière cette révolution technologique se cache une réalité préoccupante, celle des biais de genre et des inégalités systémiques inscrites dans les algorithmes.
- Car loin d'être neutre, l'IA est façonnée par les données sur lesquelles elle est entraînée et par les biais inconscients de ses créateurs, en grande majorité des hommes.
- Vous voulez des exemples ? En 2018, Amazon développe un algorithme de recrutement qui élimine systématiquement les candidatures féminines.
- Pourquoi ? Parce qu'il a été entraîné sur des CV issus d'un milieu largement masculin.
- En 2019, des clientes d'Apple Card découvrent qu'on leur accorde des crédits de recrutement de la même manière que les crédits de recrutement de la même manière.
- Ce sont des lignes de crédit bien inférieures à celles des hommes, malgré des profils financiers identiques.
- En octobre 2024, des algorithmes de la caisse d'allocations familiales ont été accusés de cibler de manière disproportionnée les femmes seules, les personnes à faible revenu et les jeunes dans les contrôles anti-fraude.
- Quant au logiciel de reconnaissance faciale, ils commettent plus d'erreurs lorsqu'ils identifient les femmes et les personnes issues de la diversité, ce qui impacte directement les contrôles de sécurité et les décisions de justice.
- Ces biais ne sont pas de simples biais.
- Ce sont des bugs.
- Ils façonnent la vie des femmes, leur accès à l'emploi, au financement et à leurs droits fondamentaux.
- Pourquoi, me direz-vous, l'IA est-elle encore si inégalitaire ? Eh bien d'abord parce que ceux qui la créent lui transmettent leurs biais.
- Aujourd'hui, les équipes qui développent cette technologie sont largement masculines.
- Seulement 27% de femmes dans la tech, 17% dans le numérique, 16,6% dans la recherche en intelligence artificielle.
- Résultat, des algorithmes conçus avec une vision partielle du monde.
- Ensuite, parce que l'IA apprend de la technologie.
- Elles apprend du passé.
- Et le passé est inégalitaire.
- Si l'on entraîne sur des décennies de décisions biaisées, recrutements dominés par les hommes, préaccordés à une majorité d'hommes, elle ne fait que perpétuer ces inégalités.
- Loin de corriger les erreurs, l'IA les grave dans le marbre.
- Enfin, parce qu'aucune régulation internationale n'oblige les entreprises à tester et corriger les biais sexistes de leurs algorithmes.
- Pour construire une IA égalitaire, il faut briser ce cercle vicieux, éviter les angles morts et imposer des règles du jeu.
- Lors du sommet pour l'action sur la vie des femmes et des biais sexistes, l'IA est là pour l'action sur l'intelligence artificielle qui vient de se tenir à Paris.
- Les gouvernements, elles l'espèrent, ont débattu des moyens de rendre l'IA plus responsable.
- Car l'intelligence artificielle est loin d'être un simple outil technologique.
- C'est un choix de société.
- Elle peut être un levier d'égalité ou un accélérateur d'injustice.
- Ce choix ne revient...
Transcription générée par IA
