L'essor de la bioéthique du double usage

Cours No.13

1. Structure• Le double usage: un problème éthique

– Diapositives 2 – 3• Les devoirs associés à la science à double usage

– Diapositives 4 – 9• Les tensions en termes d'analyse des risques et avantages

– Diapositives 10 – 12• Le principe de précaution

– Diapositives 13 – 16• La déclaration sur la publication scientifique et la sécurité

– Diapositives 17 - 18 • La prise de décisions en matière de dilemmes du double usage

– Diapositives 19 - 20

2. Le double usage: un problème éthique (i)

Le dilemme du double usage survient dans un contexte de recherche en biologie ou autres disciplines scientifiques et signifie qu'un travail ou plusieurs travaux de recherche scientifique sont susceptibles d'être utilisés aussi bien à des fins pacifiques qu'à des fins hostiles.

3. Le double usage: un problème éthique (ii)

Le double usage pose la question morale suivante: devons-nous tenir un acteur moralement responsable des conséquences d'une action lorsque ces conséquences n'étaient pas souhaitées et étaient, dans certains cas, hors du contrôle de cet acteur?

En d'autres termes, cette question se pose si une personne est moralement tenue de prendre des mesures préventives pour éviter tout résultat futur indésirable.

4. Les devoirs associés à la science à double usage

• Une définition importante du principe bioéthique de la bienveillance (obligation de ne pas nuire) stipule que le dommage couvre non seulement les actions intentionnelles comme les risques de dommage.

• Les individus peuvent nuire à autrui ou mettre autrui en danger sans le vouloir – et être tenus moralement responsables.

5. Les devoirs associés à la science à double usage (ii)

Cinq critères concernent l'obligation de prévenir tout dommage. Les scientifiques doivent s'efforcer de prévenir tout dommage qui:

- est sous leurs responsabilités professionnelles.

- entre dans leurs aptitudes et compétences professionnelles.

- pose un risque raisonnablement prévisible.

- est proportionnellement plus important que les avantages qui en résultent.

- est difficilement réalisable par d'autres moyens.

6. Les devoirs associés à la science à double usage (iii)

Les auteurs proposent les obligations morales suivantes:

- Prévenir le biotérrorisme

- S'engager dans des activités pour répondre aux attaques bioterroristes

- Considérer les implications négatives de leurs recherches

- Ne pas publier ou partager des informations sensibles

- Superviser et limiter l'accès aux matières dangereuses

- Déclarer les activités à risque.

7. Les devoirs associés à la science à double usage (iv)

Les auteurs parviennent à la conclusion que:

“les obligations les plus raisonnables sont celles qui comprennent les devoirs de considérer les implications potentiellement négatives de leurs propres recherches, de protéger l'accès aux équipements, aux technologies et aux connaissances sensibles, et de déclarer les activités à risque. La responsabilité comprend notamment les obligations qui consistent à prévenir un danger ayant une forte probabilité de se produire.''

8. Les devoirs associés à la science à double usage (v)

“La question ici n'est pas de savoir à quel point un scientifique est responsable pour les effets voulus de son action, mais de savoir à quel point il est responsable pour les effets prévisibles de ses recherches, leur prévention et aussi l'effort de prévoir certains résultats.''

9. Les devoirs associés à la science à double usage (vi)

L'auteur propose un devoir général de ne pas contribuer au double usage hostile, et dans la mesure du possible, de le contrôler pour qu'il n'ait pas lieu d'être. Ceci conduit à des devoirs plus spécifiques qui comprennent:- Ne pas conduire certains types de recherches- Anticiper systématiquement les applications du double usage pour prévenir les dangers qu'elles pourraient causer- Informer les autorités publiques de ces dangers - Ne pas diffuser ces résultats publiquement. Garder secret les connaissances scientifiques dangereuses.

10. Les tensions en termes d'analyse des risques et avantages (i)

Les enjeux ici sont les droits au progrès et à la liberté scientifiques, contre les droits du public à ne pas être mis en danger par ces mêmes recherches qui sont conduites pour les aider.

11. Les tensions en termes d'analyse des risques et avantages (ii)

L'éthique exige que nous reconnaissions un équilibre entre les droits et les responsabilités.

Les analyses éthiques de la recherche à double usage dans les sciences biologiques chercheraient à quantifier les avantages et les risques réels et potentiels, ainsi que les personnes réellement ou potentiellement à l'origine de ces risques, et celles à qui ces risques s'adressent.

12. Les tensions en termes d'analyse des risques et avantages (iii)

“Une position sensée est de considérer que des concessions doivent être faites entre les droits de diffuser les informations et le progrès scientifique d'une part, et la sécurité/santé publique d'autre part. Sur ce point, nous devons parfois être prêts à faire au moins de petits sacrifices pour la santé publique et/ou la sécurité lorsque c'est nécessaire pour obtenir des avantages considérables en matière de progrès scientifiques; et nous devons aussi parfois être prêts à faire au moins de petits sacrifices par rapport aux progrès scientifiques lorsque c'est nécessaire pour obtenir des avantages considérables en matière de santé publique et/ou de sécurité.''

13. Le principe de précaution (i)

Le principe de précaution est un principe pour la prise de décisions qui s'applique dans les cas où de sérieux effets nuisibles pourraient se produire. Le message fondamental du principe de précaution est ''qu'à certaines occasions, des mesures contre un danger potentiel doivent être prises même lorsque les preuves disponibles ne suffisent pas à considérer l'existence de ce danger comme un fait scientifique.''

14. Le principe de précaution (ii)

Le principe de précaution est sous-entendu dans la plupart des codes de conduite de sûreté biologique. Comme par exemple,

“Toute personne et institution impliquée dans un quelconque aspect des sciences de la vie doit … chercher à restreindre la diffusion des connaissances et des informations susceptibles d'être à double usage aux personnes ayant besoin de les connaître, dans les cas où il y aurait des motifs raisonnables de croire que les informations ou les connaissances puissent être facilement utilisées à des fins hostiles, dans des actes de bioterrorisme ou de guerre biologique.''

15. Le principe de précaution (iii)

Quatre dimensions conceptuelles principales, apparaissent communément dans différentes versions du principe de précaution: la menace, l'incertitude, la prescription et l'action.

De telle sorte que: ''s'il y a (1) une menace, qui est (2) incertaine, un certain type (3) d'action est (4) obligatoire.''

16. Le principe de précaution (iv)

Les auteurs proposent un principe de précaution pour le double usage:

''Là et au moment où des risques sérieux et crédibles existent selon lesquels du matériel, des technologies ou des connaissances biologiques légitimes présentent un danger pour la santé et la sécurité de l'être humain, la communauté scientifique est dans le devoir de développer, de mettre en œuvre et d'adhérer à des mesures de précaution pour répondre à cette préoccupation.''

17. La déclaration sur la publication scientifique et la sécurité (i)

“Nous reconnaissons le fait que dans certains cas, un éditeur parvienne à la conclusion que le danger potentiel de la publication dépasse les avantages potentiels pour la société. Dans de telles circonstances, le document doit être modifié ou ne pas être publié. Les revues et les cercles scientifiques peuvent jouer un rôle important pour encourager les scientifiques à communiquer leurs résultats de recherche de telle sorte que les avantages pour le public soient optimaux, tout en réduisant au maximum les risques d'usage à mauvais escient.''

18. La déclaration sur la publication scientifique et la sécurité (ii)

''La déclaration prétend que les éditeurs seront susceptibles de prendre des mesures de censure, mais aucune raison ne laisse à penser que les éditeurs, ou la communauté scientifique en général soient, à cet effet, particulièrement qualifiés pour évaluer les risques en matière de sécurité. Une question importante est par conséquent de savoir jusqu'à quel point le gouvernement, les bioéthiciens et/ou la communauté des spécialistes de la sécurité doivent être impliqués dans la censure de la science.''

19. La prise de décisions en matière de dilemmes du double usage (i)

 - L'autonomie parfaite de chaque scientifique - Un contrôle institutionnel- Recourir au contrôle institutionnel et au contrôle gouvernemental- Une autorité indépendante- Un contrôle gouvernemental total

20. La prise de décisions en matière de dilemmes du double usage (ii)

La plupart des bioéthiciens considèrent que seule une autorité mixte constituée par la communauté scientifique et par les organes gouvernementaux puisse répondre aux dilemmes du double usage. Le contexte permettra de déterminer à qui incombe la responsabilité dans une situation donnée.

Cours 13 Questions-types1. Pourquoi le double usage est-il un problème éthique ?

2. Quelles sont les obligations morales proposées par les éthiciens pour les scientifiques qui travaillent dans les domaines de la recherche à risque de double usage ? Soutenez-vous ces obligations ? Justifiez votre point de vue.

3. Qu'appelle-t-on le “principe de précaution” et quelle est sa pertinence par rapport au problème du double usage?

4. Selon vous, quelles sont les options disponibles pour la prise de décision en matière éthique par rapport aux risques du double usage, et quelles sont celles qui vous semblent être les meilleures ?

References(Slide 2)

Miller, M., and Selgelid, M. (2007) Ethical and Philosophical Consideration of the Dual-Use Dilemma in the Biological Sciences, Science and Engineering Ethics 13(4). 523-580. Available from http://www.springerlink.com/content/n514272v537582vv/

(Slide 3)

Kelley, M. (2006) Infectious Diseases Research and Dual-Use Risk, Virtual Mentor 8(4). 230-234. Available from http://virtualmentor.ama-assn.org/2006/04/pfor1-0604.html

(Slide 5)

Kuhlau, F., Eriksson, S., Evers, K., and Hoglund, A. (2008) Taking Due Care: Moral Obligations in Dual Use Research, Bioethics 22(9) 477-487. Available from http://www3.interscience.wiley.com/journal/121452418/abstract

(Slide 8)

Dando, M. R. (2009) ‘Bioethicists Enter the Dual-Use Debate’, Bulletin of Atomic Scientists 20 April. Available from http://www.thebulletin.org/webedition/columnists/malcolmdando/bioethicists-enter-the-dual-use-debate

Ehni, H-J. (2008). Dual Use and the Ethical Responsibility of Scientists Archivum Immunologiae et Therapiae Experimentalis 56(3) 147-152. Available from http://www.springerlink.com/content/vh61601545017112/

(Slide 13)Kuhlau, F., Hoglund, A., Evers, K., and Eriksson, S. (2009) A

Precautionary Principle for Dual Use Research in the Life Sciences, Bioethics, [Early View] Available from http://www3.interscience.wiley.com/journal/122499297/abstract

(Slide 14)Somerville, M. A., and Atlas, R. A. (2005) Ethics: A Weapon to

Counter Bioterrorism, Science 307(5717) 1881-1882. Available from http://www.sciencemag.org/cgi/content/short/307/5717/1881

(Slide 17)Journal Editors and Authors Group. (2003) Uncensored Exchange

of Scientific Results, PNAS 100(4) 1463-1464. Available from http://www.pnas.org/content/100/4/1464.full