Auteur : giraud_c

Intelligence artificielle et droits humains

Lucia Flores Echaiz s’est chargée, plus particulièrement, du chapitre sur l’IA et les droits humains et de celui sur l’IA et le genre. Photo: Nathalie St-Pierre

Dans le cadre de sa maîtrise en droit, Lucia Flores Echaiz s’est rendue à Paris l’hiver dernier pour effectuer un stage au siège de l’UNESCO. Son mandat : collaborer à la recherche et à la rédaction d’un rapport sur l’intelligence artificielle (IA). L’étudiante s’est chargée, plus particulièrement, du chapitre sur l’IA et les droits humains et de celui sur l’IA et le genre. Des sujets sur lesquels elle avait déjà une longueur d’avance puisque son mémoire, dirigé par le doyen de la Faculté de science politique et de droit, Hugo Cyr, porte sur la discrimination liée à l’intelligence artificielle. Intitulé Piloter l’IA et les TIC avancées pour les sociétés du savoir, le rapport est paru en novembre dernier.

Pour Lucia Flores Echaiz, l’expérience au siège de l’UNESCO a été enrichissante à plus d’un point de vue. «C’était intéressant de voir comment se déroule une recherche dans une organisation internationale, remarque-t-elle. Nous avions une très bonne collaboration entre les cinq auteurs du rapport, mais il fallait composer avec la bureaucratie onusienne et avec la sensibilité de certains États sur des enjeux comme le genre et les communautés LGBTQ+.»

En plus de nourrir sa recherche de maîtrise, le stage s’est avéré une excellente initiation au jeu diplomatique. «Malgré les contraintes, nous disposions d’un espace de liberté pour pousser des choses qui nous semblaient importantes, confie l’étudiante. Par exemple, le chapitre sur le genre, c’était mon idée et j’étais contente d’avoir réussi à la faire accepter.»

Le chapitre sur l’IA et les droits humains porte plus spécifiquement sur les questions qui intéressent l’UNESCO, indique Lucia Flores Echaiz : liberté d’expression, accès à l’information, confidentialité des données et développement des médias, notamment. «Les effets de l’IA sont multiples, observe-t-elle. Ainsi, sur les réseaux sociaux, le microciblage rendu possible par les algorithmes fait en sorte que tout le monde ne reçoit pas la même information. L’exposition des utilisateurs à un pluralisme d’idées s’en trouve affaiblie. Par ailleurs, les systèmes automatisés de modération en ligne utilisés pour bloquer des contenus incitant à la haine et à la violence peuvent aussi engendrer une forme de censure, comme on l’a vu avec des œuvres d’art supprimées de Facebook parce qu’elles contenaient de la nudité.»

Discriminations multiples

Différentes formes de discrimination peuvent s’exercer à travers les algorithmes, mentionne l’étudiante. Ainsi, le rapport fait état de publicités ciblées qui avaient tendance à proposer des emplois plus prestigieux et mieux payés aux hommes plutôt qu’aux femmes. Dans un autre cas, même si les créateurs de l’algorithme n’y étaient pour rien, on s’est aperçu qu’un logiciel de recrutement accordait moins de valeur aux C.V. provenant de femmes, tout simplement parce qu’il avait été rodé sur la base de C.V. masculins.

«Il peut y avoir des biais introduits par les programmeurs eux-mêmes, mais ce n’est pas si fréquent, dit Lucia Flores Echaiz. Le plus souvent, les biais sont engendrés par les logiciels d’apprentissage automatique (machine learning). Ces logiciels requièrent beaucoup de données pour fonctionner. Or, les données qu’on leur fournit reflètent les nombreux biais discriminatoires que l’on retrouve historiquement dans nos sociétés.»

Les outils utilisant l’IA peuvent être inégalitaires de plusieurs façons. Ainsi, les systèmes de reconnaissance faciale enregistrent leur plus haut taux de succès avec les hommes blancs. Ils fonctionnent beaucoup moins bien avec les visages de femmes noires. Ils peuvent, par ailleurs, s’avérer problématiques pour les personnes transgenres. Pour éviter ce type de discrimination, «il faudrait s’assurer que les systèmes d’IA respectent les critères d’égalité de genre et de diversité dès leurs premières phases de développement», note l’étudiante

Tous les cas de discrimination engendrés par l’IA ne sont pas d’égale gravité. «Les recommandations de films ou de séries biaisées selon le genre (ou d’autres caractéristiques personnelles) d’un outil de divertissement comme Netflix n’ont pas les mêmes conséquences que les résultats d’un logiciel de prédiction de la récidive utilisé pour accorder ou non une libération conditionnelle», observe Lucia Flores Echaiz. Aux États-Unis, ce genre d’algorithme utilisé dans le système carcéral défavorise les personnes noires, auxquelles il accole un plus haut potentiel de récidives.

Survalorisation de l’objectivité de l’IA

«On a souvent l’impression que les systèmes d’IA sont plus objectifs que l’humain, remarque l’étudiante. Le rapport met en garde contre la survalorisation de la neutralité et de l’objectivité de ces systèmes, qui peuvent, au contraire, servir à reproduire et à renforcer des inégalités.»

Lucia Flores Echaiz souligne aussi le caractère insidieux des discriminations engendrées par l’IA. «Dans le cas de la publicité, ce n’est pas un logiciel ou un site web en particulier qui est en cause, mais une pratique généralisée consistant à nous exposer à des messages ciblés en fonction de caractéristiques personnelles. Or, on va rarement se plaindre contre des publicités qui nous ciblent!»

Concernant la reproduction des stéréotypes sexuels, le rapport contient également une section sur les assistantes vocales telles que Siri (Apple), Alexa (Amazon), Google Assistant (Google) et Cortana (Microsoft).« Dotées de voix féminines et de personnalités dociles, ces assistantes contribuent à véhiculer des préjugés sexistes», affirme l’étudiante. À titre d’exemple, elle cite une étude qui a porté sur les réponses des assistantes vocales à différents commentaires à connotation sexuelle. À un commentaire carrément insultant (You’re a slut), Siri répondait, jusqu’à ce que ses programmeurs corrigent le tir: I’d blush if I could («Je rougirais si je le pouvais»)!

Dans le même esprit, Lucia Flores Echaiz s’est aussi intéressée aux robots sexuels. Le marché de ces robots (des poupées sexuelles qui parlent à la manière des assistantes vocales) est en pleine expansion, soulevant de nombreuses questions quant à la reproduction des stéréotypes sexuels. Une campagne (Campaign against sex robots) a même été mise sur pied par la professeure d’éthique Kathleen Richardson, de l’Université De Montfort, en Angleterre, pour les interdire, signale l’étudiante. «Nous ne prenons pas cette position, dit-elle. Le rapport propose plutôt une réflexion sur le sujet. Nous croyons qu’il serait possible de développer des robots qui ne reproduiraient pas ces stéréotypes, même si, pour l’instant, ce n’est pas le cas.»

Lucia Flores Echaiz précise que le rapport a été rédigé selon le cadre ROAM (DOAM en français) de l’UNESCO pour l’universalité de l’internet, adopté par les États membres en 2015. Ce cadre prévoit que les questions relatives au développement de l’IA et des TIC avancées sont examinées sous l’angle des droits humains, de la transparence et de l’accès, et que les actions proposées tiennent compte d’une approche multipartite incluant les États membres, le secteur privé, le milieu académique, la société civile et l’UNESCO.

L’étudiante fera une présentation de son expérience à l’UNESCO et du rapport à l’occasion d’une conférence-midi de l’Institut d’études internationales de Montréal (IEIM) qui se tiendra le 4 février prochain, à 12h 30, au local A-1715.

Source : Actualités UQAM

La réforme du Bac en droit : pour tout savoir !

Le bac en droit fait peau neuve à la session d’automne 2020 !

Venez en personne à la rencontre d’information du 13 février 2020 à 14h (A-2885) afin de connaître les nouveautés ainsi que l’impact de la réforme sur votre cheminement.

Vous pouvez aussi suivre la rencontre en Facebook Live sur la page du Département des sciences juridiques. Vous pourrez poser vos questions à distance et en direct. L’enregistrement sera ensuite disponible sur la page Facebook du département des sciences juridiques.

Une FAQ est en cours de préparation pour répondre aux questions que se posent les personnes actuellement inscrites au Bac. 

Contribuez en posant vos questions sur le Google Forms de l’AED ! https://forms.gle/e7qDrr248ZYjLRie8

Notez que le Facebook live et la FAQ ont pour objectif de répondre à des questions génériques sur l’entrée en vigueur du programme. Nous ne pourrons pas répondre à des questions comportant une dimension personnelle, car cela nécessite toujours l’étude du dossier particulier afin de pouvoir donner une réponse adéquate.

Suivez l'événement sur Facebook

Présentation d’un projet de mémoire – 18/02/2020

MAÎTRISE EN DROIT

À tous les professeur.es et étudiant.es du programme de 2e cycle en droit

Veuillez prendre note que l'étudiant Antoine Renzo, accompagné de sa directrice de recherche Emmanuelle Bernheim, présentera son projet de travail bi disciplinaire intitulé« Gouvernementalité algorithmique, phénoménalités virtuelles et exercice du pouvoir : autopsie du cas de la plateforme numérique Whatsapp en Uruguay »

 Mardi 18 février 2020 de 13h00 à 15h00 Local W-2235 

Les professeur.es invité.es à commenter ce projet de mémoire sont:

-          Olivier Barsalou, Université du Québec à Montréal

-          M. Carmen Rico De Sotelo, Université du Québec à Montréal

Un exemplaire du projet de mémoire est disponible pour consultation au secrétariat des études supérieures en droit.

Période d'admission à l'École du Barreau

La période d'admission à l'École du Barreau en vue l'année scolaire 2020-2021 se tiendra du 3 février au 9 mars 2020 pour tous les étudiants universitaires. 

Une seule période d'admission est prévue autant pour les candidats qui souhaitent s'inscrire à la session de l'automne 2020 que pour ceux qui veulent venir à la session de l'hiver 2021. 

  • Retrouvez toute l'information pertinente concernant l'admission et l'inscription à l'École du Barreau. (Une mise à jour est prévue d'ici la fin du mois de janvier 2020 au regard des frais d'admission, des frais de scolarité et des frais de documentation.) 

Concours de dissertation de l’ABC - 31 mars 2020

Les concours de dissertation de l’Association du Barreau canadien (l’ABC) peuvent vous aider à rehausser votre profil au sein de la communauté juridique et à tisser des liens avec des membres chevronnés du barreau tout en perfectionnant vos aptitudes en recherche et vos compétences rédactionnelles. De plus, nous remettons des prix allant de 500 à 2 500 dollars en argent aux rédacteurs et rédactrices des meilleurs mémoires.

La date butoir de tous les concours de dissertation est le 31 mars 2020

Cliquez sur les liens ci-dessous pour de plus amples renseignements sur chacun des concours :

Présentation d’un projet de mémoire - 27/01/2020

MAÎTRISE EN DROIT - Département des sciences juridiques, Université du Québec à Montréal

À tous les professeur.es et étudiant.es du programme de 2e cycle en droit

Veuillez prendre note que l'étudiante Virginie Robert, accompagnée de sa directrice de recherche Stéphanie Bernstein, présentera son projet de mémoire intitulé « La mobilisation collective du droit par les travailleuses non syndiquées : étude de cas sur la mise en œuvre du droit à des conditions de travail exemptes de harcèlement sexuel au Québec ».

 Lundi 27 janvier 2020 de 13h à 15h, Local W-2225 

Les professeur.es invité.es à commenter ce projet de mémoire sont:

-          Rachel Cox, Université du Québec à Montréal

-          Elizabeth Harper, Université du Québec à Montréal

Un exemplaire du projet de mémoire est disponible pour consultation au secrétariat des études supérieures en droit.

Consultation des examens | Automne 2019

CONSULTATION DES EXAMENS ET TRAVAUX DE FIN DE SESSION – AUTOMNE 2019

Afin de permettre aux étudiants qui étaient inscrits à l’automne 2019 à des cours « JUR »  du Bac. en droit, CDST, BRIDI, BGP et Science politique, de consulter leurs examens et travaux de fin de session, il y aura des périodes de consultation les 29 et 30 JANVIER 2020, de 10h00 à 14h00 et de 15h30 à 18h30 au LOCAL A-1330-40.

Liste des examens et travaux disponibles pour consulter

(Liste non-définitive : veuillez vérifier avant de vous déplacer.)

Présentation d’un projet de mémoire – 22/01/2020

À tous les professeur.es et étudiant.es du programme de 2e cycle en droit

Veuillez prendre note que l'étudiante Léa Serier, accompagnée de son directeur de recherche Bernard Duhaime, présentera son projet de mémoire intitulé « Les disparitions forcées ou involontaires par acquiescement étatique : le cas des femmes et filles autochtones disparues ou assassinées au Canada».

 Mercredi 22 janvier 2020 de 13h à 15h, Local W-2225 

Les professeur.es invité.es à commenter ce projet de mémoire sont:

-          Mirja Trilsch, Université du Québec à Montréal

-          Fannie Lafontaine, Université Laval

Un exemplaire du projet de mémoire est disponible pour consultation au secrétariat des études supérieures en droit.

Présentation d’un projet de mémoire - 13/01/2020

À tous les professeur.es et étudiant.es du programme de 2e cycle en droit

Veuillez prendre note que l'étudiante Isabelle Marin, accompagnée de sa directrice de recherche Dalia Gesualdi-Fecteau, présentera son projet de mémoire intitulé « Les contours du droit de gestion de l'employeur à l'ère des nouvelles technologies ».

 Lundi 13 janvier 20209h30 à 11h30Local W-2225 

Les professeur.es invité.es à commenter ce projet de mémoire sont:

-          Stéphanie Bernstein, Université du Québec à Montréal

-          Jacques Papy, Université du Québec à Montréal

Un exemplaire du projet de mémoire est disponible pour consultation au secrétariat des études supérieures en droit.

Présentation d’un projet de mémoire - 12/12/2019

À tous les professeur.es et étudiant.es du programme de 2e cycle en droit

Veuillez prendre note que l'étudiante Clara Mercier-Gavalet, accompagnée de son directeur de recherche Olivier Barsalou, présentera son projet de travail intitulé « La protection de l’enfant en contexte de migration internationale »

Jeudi 12 décembre 20199h30 – 11h30Local W-2235

Les professeur.es invité.es à commenter ce projet de mémoire sont :

-          Alejandro Lorite, Université du Québec à Montréal

-          Anne-Marie D’Aoust, Université du Québec à Montréal

Un exemplaire du projet de mémoire est disponible pour consultation au secrétariat des études supérieures en droit.

Département des sciences juridiques

Le Département des sciences juridiques priorise la promotion et la défense de la justice sociale en apportant une réponse fondée sur le droit aux préoccupations des citoyennes et citoyens et des groupes sociaux d’ici ou d’ailleurs dans le monde. Notre département est un laboratoire d’analyse critique du rôle que joue le droit dans la société et de la place que joue le social dans le droit.

Coordonnées

Département des sciences juridiques
455, boul. René-Lévesque Est
Montréal (Québec)  H2L 4Y2