24 septembre 2018
Menace ou opportunité?
Déjà présents dans nos vies, les algorithmes permettent des avancées extraordinaires tout en nous exposant à des risques sociaux
Par : Yvon Larose
Partager : 
Sur le plan éthique, les algorithmes soulèvent de nouvelles questions touchant notamment à la vie privée, à la liberté individuelle et à la protection des données personnelles.
Le Larousse définit l'algorithme comme un ensemble de règles opératoires dont l'application permet de résoudre un problème énoncé au moyen d'un nombre fini d'opérations. Un algorithme peut être traduit, grâce à un langage de programmation, en un programme exécutable par un ordinateur. Dans notre monde technologique, l'algorithme est à la base d'applications futuristes comme les nouvelles technologies de l'information et de la communication, l'infonuagique, les objets connectés ou l'intelligence artificielle. Netflix, Google, Uber, Airbnb… les algorithmes sont maintenant partout. Plusieurs pensent qu'ils gèrent nos vies. Une chose est sûre, ce nouvel outil mathématique, capable de traiter les données massives, soulève des questions éthiques fondamentales.
«Les algorithmes sont partout dans notre quotidien, dans le politique, les médias, la culture et d'autres secteurs, et sont en train de bouleverser la société même, affirme Lyse Langlois, professeure au Département des relations industrielles et directrice de l'Institut d'éthique appliquée de l'Université Laval. Dans certains domaines, les algorithmes dépassent l'humain dans la réalisation de certaines tâches avec un haut niveau de précision. Je pense ici à la détection des maladies. En matière d'emploi, des métiers vont disparaître, d'autres vont être créés, comme dans toute révolution technologique. Et sur le plan éthique, de nouvelles questions qui touchent au consentement, à la vie privée, à la liberté individuelle et à la protection des données personnelles apparaissent et redéfinissent ces domaines à la lumière des défis qu'ils soulèvent.»
Le mercredi 26 septembre, au Musée de la civilisation de Québec, la professeure Langlois participera à une causerie sur le thème «Faut-il résister aux algorithmes?». Elle sera accompagnée de la chercheuse belge Antoinette Rouvroy, du Centre de recherche information, droit et société de l'Université de Namur. Le doyen de la Faculté des sciences sociales de l'Université Laval, François Gélineau, animera la rencontre. L'activité est organisée par la Délégation Wallonie-Bruxelles, en partenariat avec l'Université et le Musée.
En avril 2018, le Centre interuniversitaire de recherche en analyse des organisations (CIRANO) a mené une enquête auprès d'un millier de personnes représentatives de la population québécoise. Près de 47% des répondants jugent essentiel que le gouvernement fasse une priorité de la protection des données personnelles recueillies par les objets connectés et les programmes d'intelligence artificielle. Un peu plus de la moitié des répondants estiment, par ailleurs, que le gouvernement devrait soutenir les employés qui seront potentiellement licenciés en raison de l'adoption des nouvelles technologies. «En France, souligne Lyse Langlois, les sondages vont dans le même sens. Il y a de l'inquiétude dans la population.»
Plusieurs rapports ont souligné l'importance de l'éthique dans le débat entourant les algorithmes. Pensons, en France, à celui de la Commission nationale de l'informatique et des libertés, ou bien, au Royaume-Uni, à celui de la Chambre des lords.
Les possibilités offertes par les algorithmes soulèvent des questionnements éthiques, notamment sur le possible avènement d'une société de contrôle ou d'une marchandisation généralisée pouvant soit entraîner une pensée fragmentée, soit dissoudre ce qui fonde notre humanité. «Toute technologie, poursuit-elle, a généré des questionnements, des peurs, mais aussi une grande excitation sur les possibilités offertes. Pensons à l'imprimerie, à la machine à vapeur, à l'électricité, au téléphone, au télégramme et maintenant au numérique et à l'intelligence artificielle, qui s'inscrivent dans cette quatrième révolution industrielle. Chaque époque a connu son lot de menaces et d'opportunités. Il semble que ce soit un couple inséparable.»
Sommes-nous manipulés dans nos émotions par les algorithmes? Lyse Langlois répond qu'on n'a qu'à penser au microciblage de dizaines de millions d'électeurs américains, par la firme britannique Cambridge Analytica, pendant la campagne présidentielle de 2016. «C'est ce type de risque éthique qui illustre avec acuité la vulnérabilité qu'entraîne l'utilisation de l'algorithme, une utilisation sans cadrage éthique ni juridique, explique-t-elle. On a ciblé les électeurs les plus influençables en se basant sur leur profil psychologique tiré de leur page Facebook.»
Selon elle, nous ne sommes pas encore conscients de l'utilisation qui est faite de ces données personnelles sur les réseaux sociaux. «Les gens, dit-elle, tendent à oublier qu'ils sont exploitables et qu'ils sont des produits devenus gratuits pour ces firmes, ce qui entraîne une sorte de marchandisation de l'être humain, et ce, en raison de ses vulnérabilités. Souvent, les individus répondent que ce n'est pas grave, qu'ils n'ont rien à cacher. C'est faux. Sur le plan éthique, il y a un risque important, une sorte de pente glissante qui voile les conséquences potentielles pour l'individu. L'important ici réside dans la conscientisation et l'éducation afin d'éviter l'amnésie morale qui peut survenir.»
Des rapports récents, dont ceux mentionnés précédemment, appellent à encadrer le développement des algorithmes. «Les algorithmes, soutient-elle, doivent être bénéfiques, ne pas nuire aux droits de la personne et préserver le bien commun. Il faut entreprendre une réflexion critique qui permet d'engager dans une sorte de synergie l'éthique et le droit pour mieux encadrer le tout, soit une réflexion éthique en amont et une régulation juridique. Former à la réflexion et à la délibération éthique, autant les concepteurs d'algorithmes que les citoyens, devrait être une priorité.»
À l'Université Laval, le projet PULSAR sur la mise en place d'une plateforme collaborative de recherche et d'intervention en santé durable réunit des dizaines de chercheurs provenant de plusieurs facultés et centres de recherche, regroupés au sein d'équipes interdisciplinaires. «Ils délibèrent, tentent d'envisager les conséquences potentielles et les risques éthiques afin de se doter d'un cadre de gestion des données visant à bien protéger le public, indique Lyse Langlois. Le souci éthique a constitué la trame de fond de leurs délibérations. Pour renforcer ce processus de protection et maintenir la confiance du public, il m'apparaît nécessaire de mettre en place une fonction d'audit éthique, qui pourrait évaluer les mécanismes mis en place, afin de maintenir le lien de confiance avec la population, mais aussi son autonomie.»
Vous aimeriez participer à la causerie «Faut-il résister aux algorithmes?»? Celle-ci aura lieu le mercredi 26 septembre, de 17h à 20h30, à l'auditorium Roland-Arpin du Musée de la civilisation (85, rue Dalhousie). L'entrée est gratuite, mais l'inscription en ligne est obligatoire.
«Les algorithmes sont partout dans notre quotidien, dans le politique, les médias, la culture et d'autres secteurs, et sont en train de bouleverser la société même, affirme Lyse Langlois, professeure au Département des relations industrielles et directrice de l'Institut d'éthique appliquée de l'Université Laval. Dans certains domaines, les algorithmes dépassent l'humain dans la réalisation de certaines tâches avec un haut niveau de précision. Je pense ici à la détection des maladies. En matière d'emploi, des métiers vont disparaître, d'autres vont être créés, comme dans toute révolution technologique. Et sur le plan éthique, de nouvelles questions qui touchent au consentement, à la vie privée, à la liberté individuelle et à la protection des données personnelles apparaissent et redéfinissent ces domaines à la lumière des défis qu'ils soulèvent.»
Le mercredi 26 septembre, au Musée de la civilisation de Québec, la professeure Langlois participera à une causerie sur le thème «Faut-il résister aux algorithmes?». Elle sera accompagnée de la chercheuse belge Antoinette Rouvroy, du Centre de recherche information, droit et société de l'Université de Namur. Le doyen de la Faculté des sciences sociales de l'Université Laval, François Gélineau, animera la rencontre. L'activité est organisée par la Délégation Wallonie-Bruxelles, en partenariat avec l'Université et le Musée.
En avril 2018, le Centre interuniversitaire de recherche en analyse des organisations (CIRANO) a mené une enquête auprès d'un millier de personnes représentatives de la population québécoise. Près de 47% des répondants jugent essentiel que le gouvernement fasse une priorité de la protection des données personnelles recueillies par les objets connectés et les programmes d'intelligence artificielle. Un peu plus de la moitié des répondants estiment, par ailleurs, que le gouvernement devrait soutenir les employés qui seront potentiellement licenciés en raison de l'adoption des nouvelles technologies. «En France, souligne Lyse Langlois, les sondages vont dans le même sens. Il y a de l'inquiétude dans la population.»
Plusieurs rapports ont souligné l'importance de l'éthique dans le débat entourant les algorithmes. Pensons, en France, à celui de la Commission nationale de l'informatique et des libertés, ou bien, au Royaume-Uni, à celui de la Chambre des lords.
Les possibilités offertes par les algorithmes soulèvent des questionnements éthiques, notamment sur le possible avènement d'une société de contrôle ou d'une marchandisation généralisée pouvant soit entraîner une pensée fragmentée, soit dissoudre ce qui fonde notre humanité. «Toute technologie, poursuit-elle, a généré des questionnements, des peurs, mais aussi une grande excitation sur les possibilités offertes. Pensons à l'imprimerie, à la machine à vapeur, à l'électricité, au téléphone, au télégramme et maintenant au numérique et à l'intelligence artificielle, qui s'inscrivent dans cette quatrième révolution industrielle. Chaque époque a connu son lot de menaces et d'opportunités. Il semble que ce soit un couple inséparable.»
Sommes-nous manipulés dans nos émotions par les algorithmes? Lyse Langlois répond qu'on n'a qu'à penser au microciblage de dizaines de millions d'électeurs américains, par la firme britannique Cambridge Analytica, pendant la campagne présidentielle de 2016. «C'est ce type de risque éthique qui illustre avec acuité la vulnérabilité qu'entraîne l'utilisation de l'algorithme, une utilisation sans cadrage éthique ni juridique, explique-t-elle. On a ciblé les électeurs les plus influençables en se basant sur leur profil psychologique tiré de leur page Facebook.»
Selon elle, nous ne sommes pas encore conscients de l'utilisation qui est faite de ces données personnelles sur les réseaux sociaux. «Les gens, dit-elle, tendent à oublier qu'ils sont exploitables et qu'ils sont des produits devenus gratuits pour ces firmes, ce qui entraîne une sorte de marchandisation de l'être humain, et ce, en raison de ses vulnérabilités. Souvent, les individus répondent que ce n'est pas grave, qu'ils n'ont rien à cacher. C'est faux. Sur le plan éthique, il y a un risque important, une sorte de pente glissante qui voile les conséquences potentielles pour l'individu. L'important ici réside dans la conscientisation et l'éducation afin d'éviter l'amnésie morale qui peut survenir.»
Des rapports récents, dont ceux mentionnés précédemment, appellent à encadrer le développement des algorithmes. «Les algorithmes, soutient-elle, doivent être bénéfiques, ne pas nuire aux droits de la personne et préserver le bien commun. Il faut entreprendre une réflexion critique qui permet d'engager dans une sorte de synergie l'éthique et le droit pour mieux encadrer le tout, soit une réflexion éthique en amont et une régulation juridique. Former à la réflexion et à la délibération éthique, autant les concepteurs d'algorithmes que les citoyens, devrait être une priorité.»
À l'Université Laval, le projet PULSAR sur la mise en place d'une plateforme collaborative de recherche et d'intervention en santé durable réunit des dizaines de chercheurs provenant de plusieurs facultés et centres de recherche, regroupés au sein d'équipes interdisciplinaires. «Ils délibèrent, tentent d'envisager les conséquences potentielles et les risques éthiques afin de se doter d'un cadre de gestion des données visant à bien protéger le public, indique Lyse Langlois. Le souci éthique a constitué la trame de fond de leurs délibérations. Pour renforcer ce processus de protection et maintenir la confiance du public, il m'apparaît nécessaire de mettre en place une fonction d'audit éthique, qui pourrait évaluer les mécanismes mis en place, afin de maintenir le lien de confiance avec la population, mais aussi son autonomie.»
Vous aimeriez participer à la causerie «Faut-il résister aux algorithmes?»? Celle-ci aura lieu le mercredi 26 septembre, de 17h à 20h30, à l'auditorium Roland-Arpin du Musée de la civilisation (85, rue Dalhousie). L'entrée est gratuite, mais l'inscription en ligne est obligatoire.
