Instagram fournit une mise à jour sur ses efforts pour éliminer les biais systémiques potentiels sur la plate-forme



Instagram a fourni une mise à jour sur les progrès de sa nouvelle équipe Equity, qui a été formée à la suite des manifestations #BlackLivesMatter aux États-Unis l’année dernière, avec l’intention déclarée de s’attaquer aux préjugés systémiques dans les processus internes et externes d’Instagram.

Après la mort de George Floyd aux mains de la police, le chef d’Instagram Adam Mosseri s’est engagé à faire plus pour lutter contre les inégalités vécues par des personnes issues de milieux marginalisés. Ce travail, Mosseri a noté qu’il inclurait un examen de toutes les pratiques, produits et politiques d’Instagram, afin de détecter les problèmes et d’améliorer ses systèmes.

L’équipe Equity s’est depuis concentrée sur plusieurs éléments clés de l’expérience Instagram.

Comme expliqué par Instagram:

“Les premiers travaux ici incluent des recherches approfondies avec différents sous-ensembles et intersections de la communauté noire pour nous assurer que nous comprenons et servons sa diversité. Nous avons discuté avec des créateurs, des militants, des esprits politiques et des gens ordinaires pour découvrir la diversité des expériences que les gens ont lors de l’utilisation. Nous sommes également en train de vérifier la technologie qui alimente notre application automatisée, nos recommandations et notre classement afin de mieux comprendre les changements nécessaires pour garantir que les gens ne se sentent pas marginalisés sur notre plateforme.

Le biais algorithmique est un élément clé – tout algorithme basé sur l’activité de l’utilisateur est également susceptible de refléter un certain niveau de biais par rapport à cette entrée. En tant que tel, Instagram s’est concentré sur l’éducation de son personnel qui travaille sur ses systèmes sur la façon dont leurs processus pourraient en être affectés.

<< Au cours des derniers mois, l'équipe Equity a lancé un programme interne pour aider les employés responsables de la création de nouveaux produits et technologies à prendre en compte l'équité à chaque étape de leur travail. Le programme, appelé Equitable Product Program, a été créé pour aider les équipes à réfléchir à ce que des changements, petits et grands, qu'ils peuvent apporter pour avoir un impact positif sur les communautés marginalisées. "

Dans le cadre de cet effort, Instagram a également mis en œuvre de nouveaux Cartes modèles d’apprentissage automatique, qui fournissent des listes de contrôle conçues pour aider à garantir que les nouveaux systèmes de ML sont conçus en tenant compte de l’équité.

“Les cartes modèles fonctionnent de la même manière qu’un questionnaire et veillent à ce que les équipes arrêtent de prendre en compte les ramifications éventuelles de leurs nouveaux modèles avant leur mise en œuvre, afin de réduire le risque de biais algorithmique. Les cartes modèles posent une série de questions et de considérations axées sur l’équité. contribuent à réduire les risques d’impacts involontaires sur des communautés spécifiques et nous permettent de remédier à tout impact avant de lancer une nouvelle technologie. À titre d’exemple, avant les élections américaines, nous avons mis en place des mesures temporaires pour rendre la rencontre plus difficile pour les gens des informations erronées ou des contenus violents, et nos équipes ont utilisé des modèles de cartes pour s’assurer que des modèles de ML appropriés étaient utilisés pour aider à protéger les élections, tout en s’assurant que notre application était juste et n’avait pas d’impact disproportionné sur une communauté en particulier. “

Encore une fois, il s’agit d’un élément clé dans les efforts d’équité plus larges de toute plateforme – si les entrées de votre algorithme sont intrinsèquement défectueuses, les résultats le seront également. Cela signifie également que les plateformes de médias sociaux peuvent jouer un rôle clé dans l’élimination des biais en les supprimant des recommandations algorithmiques, lorsque cela est possible, et en exposant les utilisateurs à un plus large éventail de contenus.

L’équipe Equity a également travaillé pour résoudre les problèmes de «shadowbanning» et les utilisateurs sentant que leur contenu a été restreint dans l’application.

Instagram dit que les perceptions concernant les prétendus “ shadowbans ” sont en grande partie liées à un manque de compréhension des raisons pour lesquelles les gens peuvent recevoir moins de likes ou de commentaires qu’auparavant, tandis que des questions ont également été soulevées concernant la transparence et les décisions d’application d’Instagram.

À l’avenir, Instagram cherche à ajouter plus d’explications à ce sujet, ce qui pourrait aider les gens à mieux comprendre si et comment leur contenu a été affecté.

“Cela inclut des outils pour fournir plus de transparence sur les restrictions sur le compte d’une personne ou si sa portée est limitée, ainsi que les mesures à prendre pour y remédier. Nous prévoyons également de créer une communication directe dans l’application pour informer les gens en cas de bogues et de problèmes techniques. des problèmes peuvent avoir un impact sur leur contenu. Dans les mois à venir, nous partagerons plus de détails sur ces nouvelles fonctionnalités. “

Cela pourrait résoudre une série de problèmes, au-delà des communautés marginalisées, avec une transparence accrue permettant de comprendre clairement pourquoi certains postes sont moins accessibles et si des limitations ont été mises en place.

Il s’agit d’un domaine de développement clé pour Instagram, et pour Facebook plus largement, en particulier, comme indiqué, en ce qui concerne l’apprentissage automatique et les modèles algorithmiques, qui sont basés sur le comportement actuel des utilisateurs.

Si les plates-formes sociales peuvent établir des domaines clés de biais au sein de ces systèmes, cela pourrait être un grand pas en avant pour répondre aux préoccupations actuelles, ce qui pourrait finir par jouer un rôle clé dans la réduction des biais systémiques plus largement.

Instagram dit qu’il lancera également de nouvelles initiatives pour aider à amplifier les entreprises appartenant à des Noirs à l’avenir.





Vous pouvez lire l’article original (en Anglais) sur le sitewww.socialmediatoday.com