DU LIVRE AU DÉVELOPPEMENT RESPONSABLE DE L’INTELLIGENCE ARTIFICIELLE LES BIBLIOTHÈQUES PUBLIQUES AU SERVICE DE L’ÉTHIQUE PUBLIQUE

Marie D. Martel, professeure adjointe EBSI (Université de Montréal)CPI – Centre Mont-Royal 13 octobre 2018

LA DÉCLARATION DE MONTRÉAL POUR UN

DÉVELOPPEMENT RESPONSABLE DE

L’INTELLIGENCE ARTIFICIELLE

Partie 1

L’intelligence artificielle

• Une branche de l’informatique qui consiste à créer des machines qui simulent l’intelligence et les comportements humains.

• Une des sciences qui explorent et exploitent de larges quantités de données (Big Data).

• Permet d’automatiser des tâches effectuées par des humains.

• Exemple : traitement de la parole, analyse des données, aide à la prise de décision, reconnaissance de mots, de textes, de formes, d’objets.

• Aujourd’hui ? Fb, Amazon, Spotify, etc.,

• Demain ? Partout.

Dans la perspective

de l’éthique publique

• Exemple des agents conversationnels : Est-ce que cette machine pense ? Janet dans The Good Place…

• Les machines de Turing (et surtout le test). Qu’en est-il des machines qui pensent ? Ou qui nous donnent l’illusion de penser?

• La réponse de Searle avec une expérience de pensée : La « Chinese Room ».

• La question la plus critique : Qu’est-ce qu’on en fait ? Et qu’est-ce qu’on doit en faire ?

• Éthique publique : porte sur des choix collectifs impliquant des valeurs morales / l’ensemble des règles morales, politiques qui permettent de faire des choix collectifs.

• Quel rôle les bibliothèques peuvent-elles jouer en matière d’éthique publique ?

Contexte de la

Déclaration

• Lancée le 3 novembre 2017 lors du Forum IA responsable à Montréal;

• Pas tellement ce que les gens pensent des innovations.

• Vise à susciter un débat public et à proposer une orientation progressiste et inclusive du développement de l’IA.

• Les principes et les recommandations auxquelles le public est invité à collaborer sont des orientations éthiques pour le développement de l’intelligence artificielle visant à améliore le bien-être collectif dans l’intérêt de tous et le respect de chacun.

Source : https://www.declarationmontreal-iaresponsable.com/contexte

7 valeurs

UNE DÉMARCHE DE COCONSTRUCTION

POUR L’IA

Partie 2

La méthodologie

• Comment des controverses éthiques pourraient émerger et comment pourrait-on y répondre ?

• Échelonnée sur 3 mois.

• 15 lieux publics différents dont 8 bibliothèques publiques

• Plus de 500 citoyens, experts et parties prenantes de tout horizon.

• Une démarche de coconstruction qui inclut :

– Des méthodes de prospectives stratégiques / scénarios en 2025 pour déclencher des discussions

– Des méthodes d’animation en design participatif / « forum hybride » pluridisciplinaires et diversifié

Source : https://www.declarationmontreal-iaresponsable.com/demarche

La méthodologie

.Des ateliers de type « café citoyen » en 3 temps d’une durée de 3 heures :

• EXPOSER – Introduction pédagogique, éthique et méthodologique.

• DÉBATTRE - Discussions en équipe sur les enjeux de l’IA : Éducation, Santé, Ville intelligente, Justice et Marché du travail sont les 5 secteurs autour desquels des scénarios prospectifs

• PROPOSER - Des enjeux éthiques aux propositions.

Source : https://www.declarationmontreal-iaresponsable.com/demarche

En bibliothèque

• 8 événements en bibliothèque

– Bibliothèque Père-Ambroise (Montréal)

– Bibliothèque Du Boisé (Montréal)

– Bibliothèque Mordecai-Richler (deux fois) (Montréal)

– Bibliothèque Benny (Montréal)

– Bibliothèque Ste-Julie (Ste-Julie)

– Bibliothèque Multiculturelle (Laval)

– Bibliothèque Paul-Aimé Parent (Québec)

– Avec un événement à la SAT et au Musée de la civilisation à Québec

Des engagements variables

PROFIL DES CITOYENS PARTICIPANTS

Sexe

Femmes

Hommes

1

2

66

63

37

28

21

3

Âge

12ansoumoins

13-18 19-34 35-44 45-54 55-64 65-74 75et+

PROFIL DES CITOYENS PARTICIPANTS

3

56

9

87

14

2

2

39

6

0 10 20 30 40 50 60 70 80 90 100

Aucuncertificat,diplômeougrade

Baccalauréat

Certificatuniversitaireinférieuroubaccalauréat

Certificatuniversitairesupérieuroubaccalauréat

Diplômed'étudescollégiales

Diplômed'étudessecondairesoul'équivalent

Diplômeenmédecine

Doctoratacquis

Titred'étudespostsecondaire

Scolarité

PROFIL DES CITOYENS PARTICIPANTS

17

16

49

3

3

36

12

6

1

15

46

28

17

63

3

0 10 20 30 40 50 60 70

Administrationpublique

Arts,spectaclesetloisirs

Autres

Commercededétail

Énergieetressources

Enseignement

Financeetassurances

Gestiondesociétésetd'entreprises

Hébergementetservicesderestauration

Informationetculture

Recherche(industrielleouuniversitaire)

Servicesprofessionnels,scientifiquesettechniques

Soinsdesanté,biotechnologiesetassistancesociale

Technologiesdel'information

Transportetentreposage

Secteursd'activité34%desrépondantsontindiquésplusd'unsecteurd'activité

L E S R É S U L T A T S D E L A D E L I B E R A T I O N1 4 j u i n 2 0 1 8

Uneinitiativedel’UniversitédeMontréal

0

5

10

15

20

25

30

35

Responsabilité Autonomie Vieprivée Bien-être Connaissance Justice DémocratieNOMBR

EDE

TAB

LESQUICONS

IDÈR

ENTCESEN

JEUX

COMMEPR

IORITA

IRES

Les valeurs auxquelles réfèrent les enjeux prioritaires identifiés par les citoyens

Éducation(9tables) Systèmejudiciaireetpoliceprédictive(8tables) Santé(12tables) Travail(5tables) Villeintelligenteetobjetsconnectés(11tables)

L’apport des enjeux

identifiés par les citoyens

à la Déclaration

• Des mécanismes pour assurer la qualité, l’intelligibilité, la transparence et la pertinence des informations.

• La nécessité de faire cadrer les intérêts publics avec les intérêts privés;

• Des dispositifs pour développer les apprentissages des personnes, supporter leur autonomie;

• Favoriser la diversité et l’intégration des plus vulnérables, protéger la mixité des modes de vie.

• Les enjeux environnementaux • Les enjeux relatifs au rapport entre humain et

IA

Les enjeux prioritaires,

en fonction des

principes

• Le principe de responsabilité, le plus prioritaire;

• Le principe d’autonomie

• Le principe de vie privée

• Le principe de bien-être (individuel et collectif)

Les grandes pistes de

solution

• Quel que soit le secteur :

1. Des dispositions légales;

2. La mise en place de formations pour tous

3. L’identification d’acteurs clés et indépendants pour la gestion de l’IA.

Dispositionslégales25%

Formations19%

Acteursinstitutionnelsetautresacteurs

17%

Autrespistesdesolution39%

Pistesdesolutionproposéesparlestablesdecoconstruction

La suite • Poursuivre la délibération

• Introduire de nouveaux scénarios prospectifs :

– Environnement; démocratie; propagande; média

• Différents chantiers prioritaires en vue des recommandations finales :

– Littératie numérique

– Certification (label)

– Diversité et inclusion

• La nouvelle version de la Déclaration, le 4 décembre

BILAN DES DÉLIBÉRATIONS

CITOYENNES DE LA

DÉCLARATION DE MONTRÉAL

IA RESPONSABLE

• 30 occurrences du mot dans le rapport.

• Modèle de la bibliothèque tiers lieu

• Lieu d’inclusion et de développement de capabilités

• Littératie numérique

• Soutien aux citoyens

• Espaces de discussion et de médiation culturelle

• « un rôle clé à jouer dans le déploiement responsable de l’IA au Québec et au Canada »

« Le choix d’organiser des cafés citoyens dans les bibliothèques publiques est explicitement lié à la dynamique de réinvention actuelle de ces services publics au Québec et au Canada1. En passant du modèle de l’espace de prêt documentaire à celui de la « bibliothèque tiers-lieux » inclusive et cherchant à renforcer les capabilités de tous les citoyens (ex. avec des services de littératie numérique, de soutien aux citoyens, des espaces de discussion et de médiation culturelle, le prêt d’outils et la création de Fab Labs), les bibliothèques publiques auront très certainement un rôle clé à jouer dans le déploiement responsable de l’IA au Québec et au Canada. »

- BILAN DES DÉLIBÉRATIONS CITOYENNES DE LA DÉCLARATION DE MONTRÉAL IA RESPONSABLE

Un exemple d’atelier

La « Une » de la Gazette de l’IA responsable du 13 mars 2020

Un chantier sur la

littératienumérique

(extrait)

« Les bibliothèques jouent un rôle clé dans l’inclusion et la littératie numérique …

On peut alors parler d’encapacitation numérique, ou du développement des capacités qui permettent de vivre, apprendre, travailler dans une société numérique…

Les bibliothèques qui intègrent des approches encapacitantes et inclusives en matière d’accès, de formation, d’espace de participation active et sécuritaire (« safe space ») — tant pour l’intégrité physique que l’exercice de la liberté d’expression — sont désignées comme tiers lieux….»

POUR PASSER DU LIVRE AU DÉVELOPPEMENT

RESPONSABLE DE L’IA

2.

Leadership des

bibliothèques en matière d’inclusion numérique

• « In order for public libraries to continue to takethe lead in developing digitally inclusive and literate communities they have to be able to show concrete policies and plans for the development of their staff addressing the DL IT and transferable skills explored in this study. »

Sources : Martzoukou, K., Elliott, J., & Robert Gordon University, Aberdeen. (2016). The Development of Digital Literacy and Inclusion Skills of Public Librarians. Comminfolit, 10(1), 99. https://doi.org/10.15760/comminfolit.2016.10.1.17

Des politiques publiques

• « La bibliothèque outille ses usagers et rend accessible et diffuse le savoir afin que ceux-ci puissent développer des compétences en recherche et en évaluation de l’information. Ces compétences leur sont aussi utiles dans l’exercice de leurs droits démocratiques et peuvent les aider à jouer un rôle actif au sein de leur communauté. »

Déclaration des bibliothèques québécoises

• Plan d'action numérique en éducation et en enseignement supérieur (18 occ/ 0 occ de bibliothèque publique)

• Stratégie numérique du Québec (2 occurrences)

• Lignes directrices pour des bibliothèques publiques : un cadre de référence qui assure l’équité des services et des ressources sur tout le territoire québécois ?

• Le plan stratégique des Bibliothèques de la Ville de Montréal ***

IFLA STATEMENT ON DIGITAL LITERACY

L'IFLA fait donc les recommandations suivantes. Les gouvernements nationaux et locaux devraient:

• Promouvoir la culture numérique en tant que droit et en tant que catalyseur du développement personnel, social et économique et de la participation civique.

• Veiller à ce que les bibliothèques puissent - légalement et pratiquement (y compris en ce qui concerne leurs propres compétences) - former les utilisateurs à la culture numérique, et se positionner au cœur des stratégies gouvernementales sur le terrain.

• Soutenir les bibliothèques dans la mise en place d'espaces pour la littératie numérique et l'innovation afin d'aider les citoyens à devenir producteurs / créateurs et consommateurs.

• S'abstenir de censure ou de blocage discriminatoire, inutile ou disproportionné du contenu en ligne.

• S'efforcer d'atteindre les objectifs d'alphabétisation de base inscrits dans l'agenda 2030 des Nation-sUnies.

18 août 2017 (Ma traduction)

Du personnelNombre de bibliothécaires ETC (employés à temps complet)par 10 000 habitants dans différentes provinces canadiennes

Colombie-Britannique :

1,011

Ontario :1,056

Québec :0,64

Danielle Chagnon, (10 février 2018). Pour en finir avec les fausses nouvelles. Colloque

Pour un chantier sur la

littératienumérique en

bibliothèque publique?

• Portrait sur les pratiques en littératie numérique, des données, du codage, en bibliothèque.

• Pour les adultes et pour les jeunes

• Pour transmettre des connaissances / développer des habiletés critiques;

• Pour faire du développement communautaire (outreach)

• Pour évaluer l’impact

On peut ajouter aussi

• Pour développer des compétences en termes de participation démocratiques et d’éthique publique.

Soutenir la sphère publique en contribuant aux droits humains et aux conditions

d’une vie plus digne par le développement des capabilités

Être capable de participer à la cultureÊtre capable d’accéder à l’information et de s’exprimer

Être capable de vivre avec et pour les autres, de se rassembler, de prendre part aux interactions sociales

Le multiculturalisme / l’interculturelPrendre soin des gens (Théorie du care)

Justice sociale (PLA)

Martha Nussbaum (« Human Rights and Human Capabilities », Harvard Human Rights Journal, 2007: 23, ma traduction)

Merci et à vos questions !