Contrôle de Big Brother : Établir des limites appropriées à la technologie de reconnaissance faciale

5 mai 2022 | Jason Milot

Les progrès époustouflants de la technologie moderne ont amélioré différents pans de nos vies. Toutefois, il faut prendre le recul nécessaire pour se demander si la technologie de pointe d’aujourd’hui n’est pas assortie de bémols et ne pourrait pas, à plusieurs égards, menacer les fondamentaux de notre humanité. 

Ce point est particulièrement vrai pour la technologie de reconnaissance faciale (TRF). Combinant les données biométriques et l’intelligence artificielle, la TRF permet à ses utilisateurs d’identifier une personne en cartographiant ses caractéristiques faciales et en comparant ces données aux images faciales enregistrées dans une base.  

Alors que la TRF présente des avantages potentiels, l’ampleur du préjudice qu’elle peut causer – du profilage racial à la véritable surveillance de masse dystopique – est telle que les gouvernements se doivent d’établir et de renforcer clairement les limites de son usage. En tant qu’investisseurs, nous pouvons contribuer à accélérer ces efforts grâce à un plaidoyer ciblé et coordonné.  

Le « bon »

Les avantages potentiels de la TRF concernent la prévention d’attaques terroristes, le renversement de condamnations injustifiées, l’aide aux enquêtes criminelles, la prévention de fusillades en milieu scolaire, l’amélioration de la sécurité dans les aéroports et aux frontières, ainsi que des actes aussi simples que le déverrouillage d’un iPad.

Dans la plupart de ces cas, toutefois, il est extrêmement difficile de trouver le juste équilibre entre le droit à la vie privée – un pilier fondamental d’une société libre et démocratique – et les avantages souvent concurrentiels d’une protection accrue. Même si la TRF constitue sans doute un bienfait, son usage s’apparente à un champ miné éthique pour toute société prônant la liberté individuelle.  

Le « mauvais et le vilain »

Il est facile de constater comment la TRF peut devenir un outil d’oppression par les gouvernements autoritaires.  La Chine, la Russie et d’autres régimes dictatoriaux à l’échelle mondiale utilisent cette technologie à des fins de surveillance de masse à la Orwell, leur permettant de supprimer la liberté d’expression et de réprimer la dissidence.

Le recours à la TRF à des fins malveillantes ne connait pas de limites de la part de chefs d’État. Par exemple, des applications permettent désormais à leurs utilisateurs de numériser des photos téléchargées et de les comparer à chaque image disponible en ligne pour d’éventuelles correspondances.  Des critiques s’inquiètent de ces applications qui peuvent être utilisées par des harceleurs ou des persécuteurs, vulnérabilisant ainsi les femmes de partenaires abusifs. Le vol d’identité représente un autre enjeu important.  Par exemple, des pirates informatiques ont transgressé en 2019 les systèmes de la patrouille frontalière et des frontières aux États-Unis, partant avec une mine de données d’images faciales et d’informations sur les plaques d’immatriculation.

Les préjugés raciaux constituent une autre préoccupation de taille. Par exemple, les ensembles de données tendent à surreprésenter les hommes blancs d’âge mûr, et il a été prouvé que les algorithmes commettent jusqu’à 100 fois plus d’erreurs dans l’identification de visages asiatiques et noirs que blancs. Ces deux faiblesses ont abouti à dedes conséquences juridiques préjudiciables pour les minorités.

Fixer des limites

D’importantes mesures sont prises pour endiguer les abus potentiels de la TRF. Aux États-Unis, plusieurs juridictions ont interdit aux organismes gouvernementaux et d’application de la loi d’y recourir. Dans certains cas, l’interdiction a été étendue aussi au secteur privé. Certains États ont soit proposé ou adopté une loi qui met des limites à la collecte de données biométriques, et inscrit dans la loi la nécessité de recevoir le consentement éclairé de toute personne ciblée par la TRF ou une technologie associée. 

Le Comité européen de la protection des données et le Contrôleur européen de la protection des données, deux autorités de réglementation privées en Europe, ont exhorté les législateurs d’interdire totalement la TRF dans les zones publiques. La législation qui suit actuellement le processus du Parlement européen pourrait imposer des limites strictes à l’identification biométrique, incluant la TRF.

Ici au Canada, les lois sur la protection de la vie privée ont récemment réduit l’usage de la TRF par la GRC. L’année dernière, une enquête menée par le Commissariat à la protection de la vie privée a révélé que la police montée avait transgressé la Loi sur la protection des renseignements personnels en recourant à la base de données de la TRF de Clearview AI. Cette entreprise du secteur privé, forte de plus de 3 100 contrats de maintien de l’ordre seulement aux États-Unis, maintient une base de données de milliards d’images issues des médias sociaux, sur laquelle la GRC a l’habitude de mener des recherches sur les suspects.

Dans un communiqué, le Commissariat à la protection de la vie privée a déclaré : « Le recours à la TRF par la GRC pour effectuer des recherches au moyen de recueils massifs de Canadiens qui sont innocents de tout soupçon de crime présente une grave atteinte à la vie privée. » Il s’est avéré aussi que plusieurs services de police municipaux avaient utilisé Clearview AI, mais parallèlement à la GRC, avaient mis fin à cette pratique – pour la simple raison que l’entreprise a arrêté ses activités au Canada. Il est important de signaler que la GRC conteste les conclusions du Commissariat à la protection de la vie privée stipulant que le recours à Clearview AI constituait une violation de la Loi sur la protection des renseignements personnels.

Un rôle pour les investisseurs

Vancity Investment Management Ltd. (VCIM), le sous-conseiller des Fonds IA Clarington Inhance PSR, pense que les investisseurs doivent user de leur influence en tant qu’actionnaires pour prôner un changement positif.  C’est pourquoi nous sommes totalement engagés – dans le cadre de notre programme robuste et éprouvé d’engagement des actionnaires – de défendre la cause de limites responsables sur la TRF. 

L’année dernière, VCIM a signé un énoncé d’investisseurs sur la reconnaissance faciale avec 51 autres investisseurs institutionnels mondiaux, représentant collectivement un actif sous gestion de 4,8 billions de dollars. L’énoncé exhorte les entreprises concernées par la TRF à : 

  1. divulguer la fiabilité de leur technologie après mesure par une institution d’évaluation scientifique pertinente et reconnue;
  2. dévoiler les sources de leurs bases de données d’images et de démontrer que leur technologie est constamment contrôlée pour détecter tout parti pris algorithmique, notamment par rapport à la race, au genre et à l’âge; 
  3. démontrer une diligence raisonnable des clients avant de leur permettre d’accéder à ladite technologie; 
  4. démontrer la mise en place de mécanismes de réclamation efficaces afin que les victimes puissent signaler les conséquences et exercer un recours. 

L’énoncé constitue le fondement de l’engagement continu de VCIM avec IBM et Cisco. Conjointement avec les groupes d’actionnaires partageant la même vision, nous exhortons les deux entreprises à prendre un engagement ferme par rapport aux meilleures pratiques décrites dans l’énoncé.

Veuillez visiter inhancepsr.ca pour en apprendre davantage sur les activités d’engagement des actionnaires de Vancity Investment Management.


Mise en garde du contributeur
Les renseignements contenus dans le présent document ne constituent pas des conseils financiers, fiscaux ou juridiques. Il vous est recommandé de toujours consulter un conseiller compétent avant de prendre une décision de placement. Les commentaires fournis par le conseiller en valeurs ou le sous-conseiller en valeurs qui est responsable de la gestion du portefeuille de placements du fonds, tel que spécifié dans le prospectus du fonds (« gestionnaire de portefeuille »), représentent son avis professionnel, ne reflètent pas nécessairement les points de vue d’iA Clarington, et ne doivent pas être considérés comme étant fiables à toute autre fin. Les renseignements présentés ne doivent pas être considérés comme une recommandation d’achat ou de vente d’un titre en particulier. La description de certains titres dans ces commentaires est fournie seulement à des fins d’illustration. Les fonds communs de placement peuvent vendre ou acheter des titres à tout moment, et la valeur des titres détenus en portefeuille peut augmenter ou diminuer. Le rendement passé d’un fonds commun de placement ou d’un titre peut ne pas se reproduire. À moins d’avis contraire, la source des renseignements fournis est le gestionnaire de portefeuille. Les énoncés prospectifs représentent l’opinion actuelle du gestionnaire de portefeuille à l’égard d’événements futurs. Les faits réels peuvent différer. iA Clarington décline toute responsabilité quant à la mise à jour de l’un ou l’autre de ces énoncés. Les renseignements fournis dans ce document peuvent ne pas englober tous les risques associés aux fonds communs de placement. Veuillez lire le prospectus pour une explication plus détaillée sur les risques précis qui existent à investir dans fonds communs de placement. Les placements dans des fonds communs de placement, y compris dans des séries de fonds communs de placement négociés en bourse, peuvent donner lieu à des commissions, à des commissions de suivi, à des frais de gestion, à des frais de courtage et à d’autres frais. Veuillez lire le prospectus avant d’investir. Les fonds communs de placement ne sont pas garantis, leur valeur change fréquemment et le rendement passé peut ne pas se reproduire. Tous les produits qui ne sont pas offerts par l’Industrielle Alliance, Assurance et services financiers inc. et qui sont présentés dans ce document sont la propriété de la société correspondante et sont commercialisés par cette dernière, et ils ne sont utilisés ici qu’à titre d’illustration seulement. Les Fonds iA Clarington sont gérés par Placements IA Clarington inc. iA Clarington et le logo d’iA Clarington ainsi qu’iA Gestion de patrimoine et le logo d’iA Gestion de patrimoine sont des marques de commerce, utilisées sous licence, de l’Industrielle Alliance, Assurance et services financiers inc.

Clause de non-responsabilité de l’AIR
Les points de vue et opinions exprimés dans cet article n’engagent que leurs auteurs et ne reflètent pas nécessairement le point de vue ou la position de l’Association pour l’investissement responsable (AIR). L’AIR n’approuve, ne recommande ni ne garantit aucune des revendications formulées par les auteurs. Cet article est conçu comme une information générale et non comme un conseil en investissement. Nous vous recommandons de consulter un conseiller qualifié ou un professionnel en investissement avant de prendre une décision de placement ou liée à un investissement.

Auteur

author's photo

Jason Milot

Analyste ESG
Vancity Investment Management Ltd.

Jason est responsable des analyses ESG et des engagements des actionnaires particuliers. Il détient un BA en psychologie appliquée avec distinction du Collège Douglas et a suivi le cours sur les placements responsables recourant aux facteurs ESG de l’Institut canadien des valeurs mobilières.  Il prépare actuellement le CIM.