wprowadzenie do sztucznej...

Wprowadzenie do Sztucznej Inteligencji

w oparciu o:S. Russel, P. Norvig. Artificial Intelligence. A Modern Approach

Przemysław Kobylański

Instytut Matematyki i InformatykiPolitechnika Wrocławska

P. Kobylański Wprowadzenie do Sztucznej Inteligencji 1 / 155

Plan wykładu

1 Wprowadzenie (2g)

2 Inteligentni agenci (2g)

3 Rozwiązywanie problemów przez przeszukiwanie (4g)

4 Nieklasyczne sposoby przeszukiwania (4g)

5 Przeszukiwanie z adwersarzem (4g)

6 Problem spełnienia ograniczeń (2g)

7 Logiczni agenci (4g)

8 Planowanie akcji (4g)

9 Planowanie i działanie w rzeczywistym świecie (4g)


Literatura

Lektura podstawowa1 S. Russel, P. Norvig. Artificial Intelligence. A Modern Approach.

Pearson Education Inc., 2010.2 I. Bratko. Prolog Programming for Artificial Intelligence.

Addison-Wesley Publishing Company Inc., 1986.Lektura uzupełniająca

1 W.F. Clocksin, C.S. Mellish. Prolog. Programowanie. Helion, 2003.


Wprowadzenie (2g)

Wykład 1Wprowadzenie

w oparciu o: S. Russel, P. Norvig. Artificial Intelligence. A Modern Approach


Wprowadzenie (2g)

Wprowadzenie

co to jest sztuczna inteligencja?podstawy sztucznej inteligencjihistoria sztucznej inteligencji


Wprowadzenie (2g)

Wprowadzenie

Co to jest sztuczna inteligencja?

Humanly Rationally

Thinking

"The exciting new effort to make com-puters think ...machines with minds, inthe full and literal sense." (Haugeland,1985)

"[The automation of] activities that weassociate with human thinking, activitiessuch decision-making, problem solving,learning..." (Hellman, 1978)

"The study of mental faculties throughthe use of computational models. (Char-niak and McDermott, 1985)

"The study of the computationsthat make it possible to perceive,reason, and act." (Winston, 1992)

Acting

"The art of creating machines that per-form functions that require intelligencewhen performed by people." (Kurzweil,1990)

"The study of how to make com-puters do things at which, at themoment, people are better." (Rich andKnight, 1991)

"Computational Intelligence is the studyof the design of intelligent agents."(Poole et at, 1998)

"AI ...is concerned with intelligentbehavior in artifacts." (Nilsson, 1998)


Wprowadzenie (2g)

Wprowadzenie

Co to jest sztuczna inteligencja? Ludzkie działanie

Test Turinga zaproponowany przez Alana Turinga w roku 1950.

przetwarzanie języka naturalnegoreprezentacja wiedzyautomatyczne wnioskowaniemaszynowe uczenie

Pełny test Turinga

komputerowe widzenierobotyka


Wprowadzenie (2g)

Wprowadzenie

Co to jest sztuczna inteligencja? Ludzkie myślenie

Jak działa ludzki umysł?poznawanie przez introspekcjęeksperymenty psychologiczneobrazowanie mózgu

ExampleAllen Newell i Herbert Simon opracowali w 1961 roku program GPS(General Problem Solver). Byli bardziej zainteresowani porównaniemsposobu rozwiązywania problemów przez ich program i przez człowiekaniż tylko poprawnością działania ich programu.

Interdyscyplinarna kognitywistyka (nauki kognitywne, cognitive science)łączy komputerowe modele z AI oraz techniki eksperymentalne zpsychologii aby stworzyć precyzyjną i sprawdzalną teorię ludzkiego umysłu.


Wprowadzenie (2g)

Wprowadzenie

Co to jest sztuczna inteligencja? Racjonalne myślenie

Podejście oparte o prawa poprawnego rozumowania.

Sylogizm Arystotelesa dostarczają wzorce wnioskowania, które zawszedostarcza poprawne wnioski z poprawnych przesłanek (np. "Sokrates

jest człowiekiem, wszyscy ludzie są śmiertelni; zatem, Sokrates jest

śmiertelny").Badanie praw poprawnego rozumowania zainicjowało dziedzinęnazywaną logiką.Od 1965 roku istnieją programy, które potrafią rozwiązać każdyrozwiązywalny problem opisany w języku logiki (jeśli nie istniejerozwiązanie, to taki program może wpaść w nieskończoną pętlę).Nawet problemy opisane kilkuset faktami mogą wykraczać pozamożliwości współczesnego komputera, jeśli nie dostarczy się muwskazówek które kroki wnioskowania wykonać w pierwszej kolejności).


Wprowadzenie (2g)

Wprowadzenie

Co to jest sztuczna inteligencja? Racjonalne działanie

Agent to coś co działa.Każdy program komputerowy coś robi, ale oczekuje się, że agentkomputerowy

działa autonomicznie,postrzega środowisko,utrzymuje się przez dłuższy czas,adaptuje się do zmian,wyznacza i osiąga cele.

Racjonalny agent to taki, który działa tak aby osiągnąć najlepszywynik albo, w przypadku niepewności, najlepszy oczekiwany wynik.Książka Russela i Norviga (AIMA) koncentruje się na ogólnychzasadach racjonalnych agentów oraz na komponentach do ichtworzenia.


Wprowadzenie (2g)

Wprowadzenie

Podstawy sztucznej inteligencji: filozofia

Czy można użyć formalne reguły do wyprowadzania poprawnychwniosków?Jak umysł wyłania się z fizycznego mózgu?Skąd bierze się wiedza?Jak wiedza prowadzi do działania?

* sylogizm Arystoteles 384-322 p.n.e.; projekt mechanicznego kalkulatora Leonardo da Vinci1452-1519; pierwszy kalkulator Wilhelm Schickard 1592-1635; kalkulator dodający i odejmującyBlaise Pascal 1623-1662; kalkulator dodający, odejmujący, mnożący, pierwiastkujący GottfriedWilhelm Leibniz 1646-1716* racjonalizm Rene Descartes (Kartezjusz) 1596-1650* empiryzm Francis Bacon 1561-1626; zasada indukcji David Hume 1711-1776; logicznypozytywizm Ludwig Wittgenstein 1889-1951, Bertrand Russell 1872-1970 i Rudolf Carnap1891-1970* logiczny związek celu i wiedzy o wynikach akcji Arystoteles 384-322 p.n.e; GPS Newell i Simon


Wprowadzenie (2g)

Wprowadzenie

Podstawy sztucznej inteligencji: matematyka

Jakie są formalne reguły wyprowadzania poprawnych wniosków?Co może być obliczone?Jak wnioskować na podstawie niepewnej informacji?

* rachunek zdań George Boole 1815-1864; rachunek predykatów pierwszego rzędu Gottlob Frege1848-1925; relacja między obiektami w logice a obiektami rzeczywistego świata Alfred Tarski1902-1983* procedura dowodząca każde prawdziwe twierdzenie z logiki pierwszego rzędu oraz twierdzenieo niezupełności Kurt Gödel 1906-1978; pojęcie obliczalności Alan Turing 1912-1954; problemywielomianowe i ponadwielomianowe Cobham 1964 i Edmonds 1965; NP-zupełność Steven Cook1971 i Richard Karp 1972* idea prawdopodobieństwa Gerolamo Cardano 1501-1576; jak przewidywać wynik gryhazardowej i oczekiwaną wygraną Blaise Pascal 1623-1662; metody statystyczne James Bernoulli1654-1705 i Pierre Laplace 1749-1827; wyliczanie prawdopodobieństwa na podstawie obserwacjiThomas Bayes 1702-1761


Wprowadzenie (2g)

Wprowadzenie

Podstawy sztucznej inteligencji: ekonomia

Jak powinniśmy podejmować decyzje aby zmaksymalizować zysk?Jak powinniśmy to robić gdy inni nie współdziałają z nami?Jak powinniśmy to robić gdy zysk będzie odległy w przyszłości?

* początek ekonomii Adam Smith 1723-1790; teoria użyteczności Leon Walras 1834-1910, FrankRamsey 1931, John von Neumann i Oskar Morgenstern* teoria gier John von Neumann i Oskar Morgenstern* formalizacja decyzyjnych procesów Markowa Richard Bellman 1957


Wprowadzenie (2g)

Wprowadzenie

Podstawy sztucznej inteligencji: neurobiologia

Jak mózg przetwarza informację?Superkomputer1 Komputer osobisty2 Mózg człowieka3

Jednostka obliczeniowa 104 CPUs 4 CPUs 1011 neuronów1012 tranzystorów 109 tranzystorów

Jednostka pamięci 1014 bitów RAM 1011 bitów RAM 1011 neuronów1015 bitów na dysku 1013 bitów na dysku 1014 synaps

Cykl czasu 10�9 sekundy 10�9 sekundy 10�3 sekundyOperacje/sekundę 1015 1010 1017

Aktualizacji pamięci/sek 1014 1010 1014

1IBM BLUE GENE2Typowy komputer w 2008 roku.3Dane o mózgu są stałe, natomiast dane o komputerach rosną o rząd co 5 lat.


Wprowadzenie (2g)

Wprowadzenie


Każdy neuron składa się z ciała komórki zawierającej jądro.Z komórki wystaje pewna liczba wypustek nazywanych dendrytami ijedna długa wypustka nazywana aksonem.Typowy akson ma długość 1 cm ale może osiągać do 1 metra.Neuron tworzy połączenia z 10 do 100,000 innymi neuronami zapomocą synaps.Sygnały są przekazywane z jednego neuronu do drugiego przezskomplikowaną reakcję chemiczną.


Wprowadzenie (2g)

Wprowadzenie


Axon

Cell body or Soma

Nucleus

Dendrite

Synapses

Axonal arborization

Axon from another cell

Synapse


Wprowadzenie (2g)

Wprowadzenie

Podstawy sztucznej inteligencji: psychologia

Jak ludzie i zwierzęta myślą i działają?* początki psychologii Hermann von Helmholtz 1921-1894 i jego uczeń Wilhelm Wundt1832-1920; behawioryzm zwierząt Herbert Spencer Jennings 1868-1947; behawioryzm JohnWatson 1878-1958; kognitywna psychologia postrzegająca mózg jako urządzenie przetwarzająceinformacje William James 1842-1910; podstawy agentów opartych na wiedzy Kenneth Craik1943


Wprowadzenie (2g)

Wprowadzenie

Podstawy sztucznej inteligencji: inżynieria komputerowa

Jak możemy budować efektywne komputery?* pierwsza programowalna maszyna tkacka Joseph Marie Jacquard 1752-1834; maszynaanalityczna4 Charles Babbage 1792-1871;* elektromechaniczny komputer do łamania kodu Enigmy Heath Robinson z zespołu AlanaTuringa 1940; pierwszy ogólnego zastosowania komputer lampowy Colossus zespół AlanaTuringa 1943; pierwszy programowalny komputer Z-3 Konrad Zuse 1941* z AI wywodzą się takie paradygmaty programowania jak programowanie symboliczne,funkcyjne, deklaratywne czy obiektowe

4Pierwsza programowalna maszyna obliczeniowa. Pierwsze programy pisała AdaLovelace córka poety Lorda Byrona. Przewidywała ona również, że maszyna analitycznamogłaby w przyszłości grać w szachy albo komponować muzykę.


Wprowadzenie (2g)

Wprowadzenie

Podstawy sztucznej inteligencji: teoria sterowania i cybernetyka

Jak artefakty5 mogą działać pod własną kontrolą?* zegar wodny - pierwsza samokontrolująca się maszyna Ktesibios z Aleksandrii ok. 250 p.n.e.;teoria sterowania Norbert Wiener 1894-1964; idea inteligencji jako homeostatycznego urządzeniazawierającego pętlę sprzężenia zwrotnego dla osiągnięcia stabilnego zachowania adaptacyjnegoWilliam Ross Ashby 1940; optymalne sterowanie stochastyczne Andriej Kołmogorow 1941,Rudolf Kalman 1960

5Przedmioty stworzone ludzką ręką.P. Kobylański Wprowadzenie do Sztucznej Inteligencji 19 / 155

Wprowadzenie (2g)

Wprowadzenie

Podstawy sztucznej inteligencji: lingwistyka

Jak się ma język do myśli?* behawioryzm Burrhus Frederic Skinner 1904-1990; struktury syntaktyczne Noam Chomsky;przetwarzanie języka naturalnego; reprezentacja wiedzy


Wprowadzenie (2g)

Wprowadzenie

Historia sztucznej inteligencji: "ciąża" sztucznej inteligencji 1943-1955

Warren McCulloch i Walter Pitts (1943)stworzyli model sztucznego neuronu, w którym

każdy neuron charakteryzuje się byciem "włączonym" albo"wyłączonym"przełączenia do stanu "włączony" odbywa się przezstymulację wystarczającej liczby sąsiednich neuronów

pokazali, żekażda obliczalna funkcja może być policzona przez pewną siećpołączonych neuronówkażdy logiczny spójnik (i, lub, nie itp.) może być wyrażony przezprostą sieć neuronówzasugerowali, że sztuczna sieć neuronów mogłaby się uczyć


Wprowadzenie (2g)

Wprowadzenie

Historia sztucznej inteligencji: "ciąża" sztucznej inteligencji 1943-1955

Donald Hebb (1949)zaproponował prostą regułę aktualizacji wag połączeń międzyneuronami umożliwiającą uczenie się sieciHebbian learning stosowane jest do dziś

Marvin Minsky i Dean Edmonds (1950)zbudowali pierwszą sztuczną siecią neuronową Snarc (3000 lampelektronowych i sieć 40 neuronów symulowanych mechanizmemautopilota z bombowca B-52)

Alan Turing (1947)wygłosił wykład oparty o własny artykuł Computing Machinery andIntelligencewprowadził w nim Test Turinga, uczenie maszynowe, algorytmygenetyczne i uczenie z pozytywnym wzmocnieniemzaproponował symulowanie umysłu dziecka zamiast symulowaniaumysłu dorosłego


Wprowadzenie (2g)

Wprowadzenie

Historia sztucznej inteligencji: narodziny sztucznej inteligencji 1956

John McCarthy, Marvin Minsky, Claude Shannon i NathanielRochester (1956)

zorganizowali dwumiesięczny workshop w Dartmouth CollegeMcCarthy po raz pierwszy użył nazwę Sztuczna Inteligencja (ArtificialIntelligence)Allen Newell i Herbert Simon z Carnegie Tech (obecnie CarnegieMellon University CMU) przedstawili swój program LogicTheorist (LT),który miał możliwość symbolicznego myślenia (opracowali językprzetwarzania list IPL, w którym zaimplementowali LT)program LogicTheorist był w stanie udowodnić większość twierdzeń zdrugiego rozdziału Principia Mathematica Rusella i Whiteheadaworkshop spowodował, że sztuczna inteligencja przez następne 20 latbyła zdominowana przez pracowników i studentów MIT, CMU,Stanford i IBM


Wprowadzenie (2g)

Wprowadzenie

Historia sztucznej inteligencji: wczesny entuzjazm, wielkie oczekiwania 1952-1969

CMU: Newell i Simon (1957) opracowali General Problem Solver(GPS), który w przeciwieństwie do LogicTheorist od początku miałnaśladować ludzkie podejście do rozwiązywania problemówIBM: Herbert Gelernter (1959) stworzył Geometry Theorem ProverIBM: Arthur Samuel (1952) stworzył serię programów grających wwarcaby, które nauczyły się grać na wysokim poziomieamatorskim(szybko grały lepiej niż ich twórca)MIT: John McCarthy (1958) stworzył język LISP, który przez następne30 lat stał się dominującym językiem programowania w SztucznejInteligencjiMIT: John McCarthy uruchamia AI lab na Stanford UniversityRice University: John Alan Robinson (1965) odkrywa zasadę rezolucji


Wprowadzenie (2g)

Wprowadzenie


MIT: Minsky promuje serię prac studenckich:James R. Slagle (1963) program SAINT całkujący na poziomie kursuAnaliza 1Tom Evans (1968) program ANALOGY rozwiązujący zadania z testówIQ dotyczące analogii geometrycznychDaniel Bobrow (1967) program STUDENT rozwiązujący proste zadaniaz algebry zadane językiem naturalnym

Terry Winograd i Jack D. Cowan (1963) pokazali jak duża liczbawspółdziałających elementów może wspólniereprezentować indywidualne pojęcia jednocześnie zwiększającrównoległość i odpornośćBernard Widrow i Ted Hoff (1962) tworzą sieć sztucznych neuronównazwaną AdalineFrank Rosenblatt (1962) tworzy perceptron


Wprowadzenie (2g)

Wprowadzenie


Red

Green

Red

Green

Green

Blue

Blue

Red


Wprowadzenie (2g)

Wprowadzenie

Historia sztucznej inteligencji: dawka rzeczywistości 1966-1973

coś co sprawdza się na małych przykładach najczęściej nie zadziała wpraktyce dla większej liczby obiektów (planowanie akcji)automatyczne dowodzenie twierdzeń nie sprawdziło się dlakilkudziesięciu faktów (dowodzenie twierdzeń)naiwna wiara, że serią małych mutacji kodu programu możnatworzyć programy rozwiązujące dowolne zadania (ewolucjamaszynowa)zbyt prosta reprezentacja uniemożliwia osiągnięcie częstonajprostszych wyników (perceptron o dwóch wejściach nie potrafiwykryć czy są one różne)


Wprowadzenie (2g)

Wprowadzenie

Historia sztucznej inteligencji: systemy oparte na wiedzy 1969-1979

system ekspercki DENDRAL wnioskujący o strukturze molekularnejna podstawie danych ze spektrometru (Buchanan et al. 1969)system ekspercki MYCIN do diagnozowania zakażeń krwi(Feigenbaum et al. początek lat 70-tych)w regułach systemu MYCIN zastosowano współczynniki pewności abywyrazić niepewne wnioskowaniedo reprezentacji wiedzy zastosowano koncepcję ram opracowaną przezMinsky’ego


Wprowadzenie (2g)

Wprowadzenie

Historia sztucznej inteligencji: AI staje się przemysłem 1980-teraz

system ekspercki R1 opracowany przez firmę DEC do wspomaganiakonfigurowania komputerów VAX-11/780 (rocznie 40 milionówdolarów oszczędności)w 1981 Japonia ogłasza projekt komputerów piątej generacji(opracowanie komputerów z Prologiem jako językiem maszynowym)


Wprowadzenie (2g)

Wprowadzenie

Historia sztucznej inteligencji: powrót sieci neuronowych 1986-teraz

w połowie lat 80-tych co najmniej cztery różne zespoły na nowoodkryły algorytm uczenia sieci oparty na wstecznej propagacji (odkrytyprzez Brysona w roku 1969)badania nad sieciami neuronowymi podzieliły się na dwa obszary:

opracowanie architektury i algorytmów oraz zrozumienie ichmatematycznych własnościmodelowanie empirycznych własności rzeczywistych neuronów i ich sieci


Wprowadzenie (2g)

Wprowadzenie

Historia sztucznej inteligencji: AI adaptuje metody naukowe 1987-teraz

ukryte modele Markowa (HMM) zastosowane do rozpoznawaniamowy i pisma ręcznegoz takich obszarów jak statystyka, rozpoznawanie wzorców i maszynoweuczenie wyłonił się nowy obszar badań jakim jest eksploracja danych(data mining)na potrzeby wyrażania i operowania niepewną informacją opracowanosieci bayesowkie (Bayesian network)


Wprowadzenie (2g)

Wprowadzenie

Historia sztucznej inteligencji: pojawienie się inteligentnych agentów 1995-teraz

opracowanie architektury SOAR dla inteligentnych agentów (JohnLaird, Allen Newell, Paul Rosenbloom 1987)internet jako jedno z najważniejszych środowisk dla inteligentnychagentów (tzw. boty)Human Level Artificial Intelligence (HLAI) – na fali rozczarowaniaosiągnięciami w zakresie sztucznej inteligencji zaproponowano powrótdo jej korzeni, czyli do prac nad maszynami, które myślą, uczą się itworząArtificial General Intelligence (AGI) – poszukiwania uniwersalnegoalgorytmu na uczenie się i działanie w dowolnym środowisku


Wprowadzenie (2g)

Wprowadzenie

Historia sztucznej inteligencji: dostępność wielkich zbiorów danych 2001-teraz

główny obiektem dotychczasowych badań informatyki był algorytm,jednak w ostatnich badaniach z zakresu sztucznej inteligencji sugerujesię, że dla wielu problemów ważniejsze byłoby martwienie się o daneniż o wybór odpowiedniego algorytmuinternet źródłem ogromnej liczby danych (1012 słów i 109 obrazów)


Wprowadzenie (2g)

Wprowadzenie

The State of the Art

Autonomiczny samochódprojekt STANLEY (Stanford University)projekt BOSS (CMU)

Rozpoznawanie mowyrezerwacja lotu w United Airlines

Autonomiczne planowanie i harmonogramowanieREMOTE AGENT (NASA) autonomiczny program planującysterowanie w statkach kosmicznychMAPGEN (NASA) planowanie operacji w Mars Exploration RoversMEXAR2 (ESA) planowanie logistyczne i naukowe dla misjiEuropean’s Space Agency’s Mars Express

Granie w grykomputer IBM DEEP BLUE był pierwszym komputerem, którypokonał arcymistrza Garry Kasparova wynikiem 3.5 : 2.5

Zwalczanie spamusystemy uczące się rozpoznawania spamu Sahami et al 1998, Goodmani Heckerman 2004


Wprowadzenie (2g)

Wprowadzenie

The State of the Art

Planowanie logistyczneprojekt DART (Dynamic Analysis and Replanning Tool) dlaautomatycznego planowania i harmonogramowania na potrzebytransportu dla 50,000 pojazdów (Konflikt w Zatoce Perskiej 1991)

Robotykasprzedano ponad dwa miliony robotów Roomba, któreodkurzają mieszkania (The iRobot Corporation)roboty PackBot wykorzystane w Iraku i Afganistanie do obsługimateriałów niebezpiecznych, rozbrajania min i pułapek, identyfikacjipołożenia snajperów (The iRobot Corporation)

Tłumaczenie maszynoweprogram do automatycznego tłumaczenia z języka arabskiego naangielski (program oparty na modelach statystycznych, sam uczy się napodstawie przykładów, żaden z członków zespołu nie zna językaarabskiego)


wprowadzenie do sztucznej...

Documents