Социальные риски и опасности создания искусственного...
DESCRIPTION
Социальные риски и опасности создания искусственного интеллекта. Выполнила: студентка фак-та психологии, группы КПС-ДС-3, Чекунова Анна. - PowerPoint PPT PresentationTRANSCRIPT
Социальные риски и опасности создания искусственного интеллекта.
Выполнила: студентка фак-та
психологии, группы КПС-ДС-3,
Чекунова Анна
Наука под названием «искусственный интеллект» входит в комплекс компьютерных наук, а создаваемые на ее основе технологии относятся к информационным технологиям.
История искусственного интеллекта как нового научного направления начинается
в середине XX века.К этому времени уже было сформировано
множество предпосылок его зарождения: • среди философов давно шли споры о природе
человека и процессе познания мира, • нейрофизиологи и психологи разработали ряд
теорий относительно работы человеческого мозга и мышления,
• экономисты и математики задавались вопросами оптимальных расчётов и представления знаний о мире в формализованном виде;
• зародился фундамент математической теории вычислений — теории алгоритмов — и были созданы первые компьютеры.
• Возможности новых машин в плане скорости вычислений оказались больше человеческих,
поэтому в учёном сообществе закрался вопрос: каковы границы возможностей компьютеров и
достигнут ли машины уровня развития человека?
Можно выделить два направления развития ИИ:
• решение проблем, связанных с приближением специализированных систем ИИ к возможностям человека, и их интеграции, которая реализована природой человека.
• создание искусственного разума, представляющего интеграцию уже созданных систем ИИ в единую систему, способную решать проблемы человечества.
Современный искусственный интеллект
Некоторые из самых известных ИИ-систем:• Deep Blue — победил
чемпиона мира по шахматам. • Watson —способен
воспринимать человеческую речь и производить вероятностный поиск, с применением большого количества алгоритмов.
Для демонстрации работы Watson принял участие в
американской игре «Jeopardy!», аналога
«Своей игры» в России, где системе удалось
выиграть в обеих играх.
Некоторые из самых известных ИИ-систем:
• MYCIN — одна из ранних экспертных
систем, которая могла диагностировать небольшой набор
заболеваний, причем часто так же точно, как
и доктора.
• Распознавание речи. Системы такие как ViaVoice способны обслуживать потребителей.Роботы в ежегодном турнире RoboCup соревнуются в упрощённой форме футбола.
• Банки применяют системы искусственного интеллекта (СИИ) в страховой деятельности (актуарная математика), при игре на бирже и управлении собственностью.
• Методы распознавания образов широко используют при оптическом и акустическом распознавании (в том числе текста и речи), медицинской диагностике, спам-фильтрах, в системах ПВО (определение целей), а также для обеспечения ряда других задач национальной безопасности.
• Развитие работ по созданию искусственного интеллекта в ответ на потребности общественной практики вызывает подчас большое беспокойство. Оно связано с тем, что кибернетизация умственного труда приводит к передаче машинам областей деятельности человека, которые до сих пор были привилегией интеллектуальных работников.
Весь комплекс работ по моделированию функций психики и сознания человека ставит ряд вопросов:
• Можно ли создать искусственный интеллект?
• Если да, то насколько человечество приблизилось к этому?
• Если мы общаемся он-лайн, сможем ли мы отличить, когда общаемся с
человеком, а когда с компьютером? • Если компьютер сможет выдать себя за
человека, можно ли сказать, что он интеллект?
• Могут ли машины думать? Смогут ли когда-нибудь машины захватить власть
при таком стремительном развитии технологий?
• Будут ли роботы представлять реальную угрозу нашему
существованию?
Весь комплекс работ по моделированию функций психики и сознания человека ставит ряд вопросов:
• Какими целями человек может наделить системы искусственного интеллекта?
• Не приведет ли создание творческого автомата к ослаблению стимула творчества у людей?
• Не создаст ли снятие с человека ответственности за принятие решений угрозу самому существованию этой способности у человека?
• Должны ли люди ограничивать развитие систем искусственного интеллекта или, по крайней мере, держать их под контролем?
• Кибернетические машины отличаются от всех прежних машин тем, что служат усилителями человеческого интеллекта. Будучи вовлеченными в человеческую деятельность, они включаются в систему общественных отношений. Характер общественных
отношений, в которых создаются, функционируют
и развиваются кибернетические машины,
определяет те последствия, к которым приводит
сравнительная самостоятельность машины
по отношению к человеку.
• Моральные проблемы, связанные с разработкой мыслящих машин, приобретают нередко форму отчуждающих интерпретаций, авторы которых
противопоставляют человека и машину, рассматривают развитие машин как враждебную для человека силу.
• Один из наиболее влиятельных и известных физиков-теоретиков
нашего времени Стивен Хокинг считает, что компьютерные
технологии через некоторое время превзойдут возможности
человеческого разума: «В отличие от нас, компьютеры удваивают свои
мощности каждые 18 месяцев (закон Мура). Опасность, что они
смогут разработать искусственный интеллект и захватить мир,
реальна».
• В следующем году на базе Кембриджского университета будет создан "Центр изучения глобальных рисков", одной из целей которого является определение принципов разработки
"безопасного" искусственного интеллекта.
• Глава создаваемого центра профессор философии Хью
Прайс опубликовал в августе 2012 года статью "ИИ:
сможем ли мы удержать его в коробке?", в которой призвал
серьезно рассмотреть возможные угрозы: "Мы думаем, что в качестве
первого правильного шага стоило бы прекратить
относиться к искусственному интеллекту как к предмету
научной фантастики и начать думать о нем как о части
реальности, с которой мы или наши потомки могут рано или
поздно столкнуться".
• Основной причиной опасности «ультра-умных» машин
создатели проекта видят принципиальное отличие их
предполагаемого интеллекта от человеческого. Все ценности – такие, как «любовь, счастье и даже выживание», важны для
нас, потому что у нас есть определенная эволюционная
история – нет ни одной причины полагать, что машины будут разделять их с нами. По
словам Прайса, машины, возможно, будут просто безразличны к нам, что
повлечет за собой катастрофические последствия.
• Кроме того, не обязательно будет присутствовать фактор угрозы войны от искусственного интеллекта. К примеру, угроза исчезновения горилл не причисляется к враждебности человека, но это может являться результатом деятельности человека на планете. Тоже самое можно спроецировать на человека и ИИ.
• "Может быть, мы станем для компьютеров домашними любимцами и будем, как комнатные собачки, вести беззаботное существование, но я надеюсь, что у нас всегда останется возможность в любой момент выдернуть вилку из розетки".
(Артур Кларк)
Список литературы:
•Г. С. Осипов. Искусственный интеллект: состояние исследований и взгляд в будущее
•Алан Тьюринг, Могут ли машины мыслить?•Девятков В. В. Системы искусственного
интеллекта / Гл. ред. И. Б. Фёдоров. — М.: Изд-во МГТУ им. Н. Э. Баумана, 2001. — 352 с
•Хант Э. Искусственный интеллект/ Под ред. В. Л. Стефанюка. — М.: Мир, 1978. — 558 с.