künstliche intelligenz und effektiver altruismus
Post on 24-Jan-2017
47 Views
Preview:
TRANSCRIPT
Künstliche Intelligenz und Effektiver Altruismus
Caspar Oesterheld Foundational Research Institute
Caspar Oesterheld Foundational Research Institute 2
Die ethische Relevanz der Zukunft
Gegenwart – Direkt beeinflussbar
Vergangenheit – Sehr schwer zu beeinflussen
Zukunft
Caspar Oesterheld Foundational Research Institute 3
Die ethische Relevanz der Zukunft
Caspar Oesterheld Foundational Research Institute 4
Die ethische Relevanz der Zukunft
Caspar Oesterheld Foundational Research Institute 5
Die ethische Relevanz der Zukunft
Caspar Oesterheld Foundational Research Institute 6
Die ethische Relevanz der Zukunft
Caspar Oesterheld Foundational Research Institute 7
Unabsehbarkeit der langfristigenKonsequenzen direkter Intervention
Daniel Dennett: Darwin‘s Dangerous Idea, p. 498
Caspar Oesterheld Foundational Research Institute 8
„Poor Meat Eater“ und andere Probleme
• Mehr Fleischkonsum => mehr Tierleid• Überpopulation
Caspar Oesterheld Foundational Research Institute 9
Evaluability Bias
Caviola et al. (2014): The evaluability bias in charitable giving. http://journal.sjdm.org/14/14402a/jdm14402a.pdf
„…the evaluability bias influences decision making in the context of charitable giving: people tend to have a strong preference for charities with low overhead ratios (lower administrative expenses) but not for charities with high cost-effectiveness (greater number of saved lives per dollar), because the former attribute is easier to evaluate than the latter.“
Caspar Oesterheld Foundational Research Institute 10
Einfluss auf Institutionen
● Institutionen können im Angesicht von Black Swans in unserem Sinne re-evaluieren. ● Institutionen haben langfristigen Einfluss.
EA Institutionen Werte
Wildtierleid
Armut
Massentierhaltung
…
„Black Swans“
Caspar Oesterheld Foundational Research Institute 11
Einfluss auf Institutionen • Regierungen• Allgemeine Bevölkerung• Andere wohltätige Organisationen• Unternehmen• Religionen?• Kultur• Künstliche Intelligenz
Caspar Oesterheld Foundational Research Institute 12
Künstliche Intelligenz
Legg und Hutter (2007): Universal Intelligence: A Definition of Machine Intelligence. https://arxiv.org/abs/0712.3329
Künstlich = Von Menschen erstellt und kein Imitat natürlicher Lebewesen Intelligenz = Die kognitive Fähigkeit eines Agenten, in einer Vielzahl von Umgebungen Ziele zu erreichen
Caspar Oesterheld Foundational Research Institute 13
Warum Künstliche Intelligenz
Caspar Oesterheld Foundational Research Institute 14
Warum Künstliche Intelligenz
Caspar Oesterheld Foundational Research Institute 15
Die Relevanz von Künstlicher Intelligenz im Vergleich zu anderen Institutionen
• Scope• Tractability• Neglectedness
Benjamin Todd (2014): Which cause is most effective? https://80000hours.org/2014/01/which-cause-is-most-effective-300/
Caspar Oesterheld Foundational Research Institute 16
Künstliche Intelligenz – Scope
=> Langfristig ist der Einfluss von KI wahrscheinlich größer als der von Menschen
Caspar Oesterheld Foundational Research Institute 17
Orthogonalität von „Intelligenz“ und Zielen
Intelligenz
Ziele
Menschen
„Büroklammer- Maximierer“
● Gute Nachricht: Mit unseren Zielen kompatible KI ist möglich. ● Schlechte Nachricht: Wenn man sich nicht darum bemüht, hat eine KI wahrscheinlich inkompatible Ziele.
Nick Bostrom (2012): The Superintelligent Will. http://www.nickbostrom.com/superintelligentwill.pdf
Caspar Oesterheld Foundational Research Institute 18
Auch eine KI mit menschlichen Werten könnte schlecht sein...
Caspar Oesterheld Foundational Research Institute 19
Auch eine KI mit menschlichen Werten könnte schlecht sein...
Evan G. Williams (2015): The Possibility of an Ongoing Moral Catastrophe. http://link.springer.com/article/10.1007/s10677-015-9567- 7
Caspar Oesterheld Foundational Research Institute 20
Ziel-Erhaltung
Caspar Oesterheld Foundational Research Institute 21
Künstliche Intelligenz – Tractability
Mnih et al. (2015)
Caspar Oesterheld Foundational Research Institute 22
Künstliche Intelligenz – Tractability
EA Institutionen
Armut Massentierhaltung
…
Künstliche Intelligenz
Wildtierleid
Armut
Massentierhaltung …„Black Swans“
Brian Tomasik: International Cooperation vs. AI Arms Race. https://foundational-research.org/international-cooperation-vs-ai-arms-race/
Caspar Oesterheld Foundational Research Institute 23
Machbarkeit
Technische Probleme der KI-Sicherheit: • Entscheidungstheorie• Maschinenethik• Stabile Selbstverbesserung
Nate Soares: A Guide to MIRI’s Research. https://intelligence.org/research-guide/
Caspar Oesterheld Foundational Research Institute 24
Machbarkeit – Kooperation
Brian Tomasik: Gains from Trade through Compromise. https://foundational-research.org/gains-from-trade-through-compromise/
Caspar Oesterheld Foundational Research Institute 25
Machbarkeit – Kooperation
Lukas Gloor (2016): Suffering-focused AI safety https://foundational-research.org/files/suffering-focused-ai-safety.pdf
Konsequenzen, die die meisten Menschen sehr schlecht finden
Hedonium
Florierendeposthumane Zivilisation
Brave new
world
Islamischer Staat
Caspar Oesterheld Foundational Research Institute 26
www.openphilanthropy.org/focus/global-catastrophic-risks/potential-risks- advanced-artificial-intelligence/ai-timelines
• 10-20 Vollzeitstellen
• Gegenargument: „Um KI können und werden sich zukünftige Wissenschaftler kümmern.“
KI-Sicherheitsforschung als vernachlässigtes Feld
Caspar Oesterheld Foundational Research Institute 27http://www.overcomingbias.com/2010/06/near-far-summary.html
Warum die Zukunft als Ziel wohltätigen Handelns kontra-intuitiv ist?
Construal Level Theory
Weiterführende Ressourcen
E-Mail: caspar.oesterheld@foundational-research.org
Organisationen: Foundational Research Institute http://foundational-research.org/
Machine Intelligence Research Institute https://intelligence.org/ Future of Humanity Institute https://www.fhi.ox.ac.uk/
28Caspar Oesterheld
Foundational Research Institute
top related