ia et éducationdane.ac-besancon.fr/wp-content/uploads/...hepatitis b vaccine kills 10 month old ......

IA et éducationLê Nguyên Hoang, EPFL

@le_science4allJ-DSI/DAN 2019

Le monde s’améliore. (Et c’est beaucoup grâce aux technologies, IA comprise)

Mais…

This video will make you angry CGP Grey

Loneliness Kurzgesagt

Rendre les IA bénéfiques

La morale des IA d’aujourd’hui (et la carotte est souvent l’attention des utilisateurs)

“Ce qui importe est ce qu’il se passe dans la tête de l’étudiant” Veritasium (Derek Muller)

Susciter la curiosité

Aligner l’IA

Loi de Goodhart Quand une mesure devient un objectif, elle cesse d’être une

bonne mesure.

Hacker l’IA ft. El Mahdi El Mhamdi

How Will Self-Driving Cars Make Moral Decisions?

Up and Atom (ft. Science4All)

Nos intuitions (morales) sont pourries…

Volition cohérente extrapolée (CEV) Programmer ce que l’on

voudrait vouloir, s’il on était plus intelligents,

bienveillants et informés.

"Solving the value-loading problem is a research challenge

worthy of some of the next generation's best mathematical talent.“

Nick Bostrom.

Financer la recherche

Attirer les talents

Mieux débattre

Valoriser la sécurité