Теория информации и кодирования · 2017-03-14 · 4 Тема 2....

2

1. Цели освоения дисциплины «Теория информации и кодирования»

1. Знакомство с базовыми понятиями теории информации и кодирования (информацион-ными характеристиками дискретных и непрерывных источников сообщений и основ-ными принципами хранения информации и передачи информационных сообщений по каналам связи).

2. Овладение навыками решения практических задач, связанных с расчетом информаци-онных характеристик источников сообщений, преобразованием и передачей информа-ции

3. Формирование системы компетенций, направленных на овладение базовыми знаниями в области математики и естественных наук, методами решения стандартных задач про-фессиональной деятельности на основе информационной и библиографической культу-ры с применением информационно-коммуникационных технологий и с учетом основ-ных требований информационной безопасности, принципами работы и методами экс-плуатации современной радиоэлектронной и оптической аппаратуры и оборудования.

2.Место дисциплины в структуре ООП бакалавриата Дисциплина входит в набор дисциплин по выбору Блока 1 «Дисциплины (модули)» учеб-ного плана ООП по направлению подготовки 03.03.03 «Радиофизика», профиль «Инфор-мационные технологии и компьютерное моделирование в радиофизике». Индекс дисци-плины -- Б1.В.ДВ.8.1. Дисциплина изучается в 8 семестре. Входные знания, умения и компетенции, необходимые для изучения данного курса, формируются в процессе освоения ряда дисциплин бакалавриата, таких как дисциплины модулей «Математика», «Общая физика», «Физика колебательных и волновых процес-сов». Данная дисциплина знакомит студентов с базовыми представлениями теории ин-формации и кодирования, необходимыми для ознакомления студентов с рядом профиль-ных дисциплин, посвященных системам передачи информации. 3. Компетенции обучающегося, формируемые в результате освоения дисциплины «Теория информации и кодирования» В результате освоения дисциплины «Теория информации и кодирования» у студентов должны формироваться следующие компетенции: • способность к овладению базовыми знаниями в области математики и естественных наук, их использованию в профессиональной деятельности (ОПК-1);

• способность решать стандартные задачи профессиональной деятельности на основе информационной и библиографической культуры с применением информационно-коммуникационных технологий и с учетом основных требований информационной безопасности (ОПК-4);

• способность понимать принципы работы и методы эксплуатации современной радио-электронной и оптической аппаратуры и оборудования (ПК-1).

В результате освоения дисциплины обучающийся должен Знать: • основы теории информации и кодирования (задачи и методы теории информации, ос-новные информационные характеристики дискретных и непрерывных источников, тео-ремы Шеннона о кодировании источника, основные принципы и алгоритмы сжатия, виды каналов связи, методы их описания, характеристики скорости передачи информа-ции и надежности, основы помехоустойчивого кодирования);

Уметь: • решать стандартные задачи теории информации (рассчитать информационные характе-ристики источников сообщений с известными статистическими свойствами, применять

3

простейшие алгоритмы эффективного кодирования, рассчитывать основные характери-стики каналов связи, применять основные методы помехоустойчивого кодирования и оценивать их возможности по обнаружению и исправлению ошибок);

Владеть • базовыми знаниями в области теории информации и кодирования; • методами решения практических задач; • способностью понимать принципы работы систем передачи информации.

4. Структура и содержание дисциплины «Теория информации и кодирования»

4.1. Структура дисциплины Общая трудоемкость дисциплины составляет 4 зачетные единицы (144 час.), включая лек-ции (24 часа), практические занятия (24 часа), самостоятельную работу (36 часов) и экза-мен (36 час). № п/п

Раздел дисциплины

Се-местр

Не-деля се-мест-ра

Виды учебной работы, включая самостоятельную работу студентов

и трудоемкость (в часах)

Формы текущего контроля успеваемости (по неделям

семестра) Формы промежуточной аттестации (по семестрам) Лек-

ции Прак

тич. заня-тия

Интер-активн. практич. занятия

Са-мост. работа

1 Введение

8 1 2 - -- -- Опрос, проверка конспек-тов, проверка отчетов по практическим работам

2 Базовые понятия теории инфор-мации.

8 1-2 2 2 4 10 Опрос, проверка конспек-тов, проверка отчетов по практическим работам

3 Сжатие дис-кретной инфор-мации.

8 3-6 8 4 4 20 Опрос, проверка конспек-тов, проверка отчетов по практическим работам. Контрольное тестирование

4 Каналы связи. 8 7-8 4 2 2 10 Опрос, проверка конспек-тов, проверка отчетов по практическим работам

5 Помехоустойчи-вое кодирова-ние.

8 9-12 8 4 2 20 Опрос, проверка конспек-тов, проверка отчетов по практическим работам. Контрольное тестирование

Итого: 144 8 1-12 24 24 36 Экзамен (36)

4.2. Содержание учебной дисциплины

Введение Формулируются цели и задачи курса. Тема 1. Базовые понятия теории информации 1.1. Дискретный источник и его информационные характеристики, энтропия Шеннона. Информационные характеристики совокупности дискретных источников. Количество информации в сообщении дискретного источника при наличии помех. Количество информации в информационной последовательности. Коэффициент избыточности. 1.2. Непрерывный источник и его информационные характеристики. Дифференциальная энтропия непрерывного источника. Характеристики совокупности непрерывных источников, взаимная информация непрерывных источников. Количество информации в сообщении непрерывного источника при наличии помех.

4

Тема 2. Сжатие дискретной информации 2.1. Задачи кодирования. Общее представление о методах сжатия. Характеристики сжатия. 2.2. Побуквенное кодирование источников без памяти. Равномерные и неравномерные коды. Префиксные неравномерные коды, неравенство Крафта. Теорема Шеннона о кодировании источника без памяти. Самостоятельно: доказательство теоремы Шеннона о кодировании источника без памяти. 2.3. Статистическое побуквенное кодирование. Примеры статистических префиксных кодов: код Шеннона, код Шеннона-Фано, код Хаффмана. Понятие оптимального кода. 2.4. Арифметическое кодирование. 2.5. Коды с памятью. Теорема Шеннона о кодировании источника c памятью. Блочные статистические коды. Самостоятельно: доказательство теоремы Шеннона о кодировании источника с памятью. 2.6. Префиксные коды натурального ряда. 2.7. Универсальные методы кодирования. Адаптивные методы кодирования (на примере адаптивного алгоритма Хаффмена). 2. 8. Самостоятельно: интервальное кодирование и кодирование длин повторений. Дифференциальное кодирование. 2.9. Словарные методы кодирования. Алгоритмы со скользящим словарем ( LZ77, LZSS). Алгоритмы с дополнительным словарем фраз (LZ78, LZW). 2.10. Контекстные методы сжатия. Алгоритм PPM. 2.11. Методы сжатия изображений. Сжатие без потерь и с потерями. Алгоритм JPEG. Базовые технологии сжатия видеоданных. Самостоятельно: стандарты Motion-JPEG и MPEG- Тема 3. Каналы связи 3.1. Общие представления о каналах связи. Классификация каналов. 3.2. Дискретные каналы связи. Пропускная способность дискретного канала. Теорема Шеннона об оптимальном кодировании в дискретном канале с помехами. Самостоятельно: доказательство теоремы Шеннона об оптимальном кодировании в канале связи. 3.3. Непрерывные каналы связи. Пропускная способность непрерывного канала с аддитивным белым гауссовым шумом. Тема 4. Помехоустойчивое кодирование 4.1. Основные принципы кодирования в канале без памяти. 4.2. Линейные блочные коды (векторное представление). Общие принципы построения линейных блочных кодов в векторном представлении. Порождающая и проверочная матрицы. Общие принципы обнаружения ошибки при линейном блочном кодировании. Вектор синдрома. Способность линейного блочного кода обнаруживать и исправлять ошибки. 4.3. Полиномиальные линейные блочные коды (ПК). Порождающий полином. Кодирование с использованием полиномиальных кодов. Синдромное декодирование. Циклические полиномиальные коды (ЦК). Самостоятельно: Неалгебраические методы декодирования ЦК. Метод Меггитта. 4.4. Сверточные коды. Кодирование с использованием сверточных кодов. Сверточные коды с синдромной коррекцией. Самостоятельно: код Финка – Хагельберга. 4.5. Сверточные коды с использованием последовательного декодирования. Алгоритм Витерби. 4.6. Применение корректирующего кодирования в системах связи. 4.3. План практических занятий по дисциплине «Теория информации и кодирова-ния» (в объеме 36 часов).

5

Тема 1: Базовые понятия теории информации (Количество занятий по данной теме – 6). Тема 2: Сжатие дискретной информации (Количество занятий по данной теме – 12). Тема 3: Каналы связи (Количество занятий по данной теме – 6). Тема 4: Помехоустойчивое кодирование (Количество занятий по данной теме – 12). 5. Образовательные технологии, применяемые при освоении дисциплины «Теория информации и кодирования» Программа дисциплины предусматривает чередование образовательного материала, ставящего проблему, с активной и интерактивной формами занятий посредством выпол-нения системы заданий по анализу лекционного материала. Удельный вес занятий, прово-димых в интерактивных формах, составляет 25% от общего числа аудиторных занятий по данному курсу. Общая образовательная схема дисциплины строится по традиционной технологии обучения: сначала учебный материал сжато преподносится студентам лекционным мето-дом, а затем прорабатывается и усваивается в процессе самостоятельной работы. Резуль-таты усвоения проверяются в форме экзамена. Для самостоятельной работы предлагаются задания, требующие чтения специальной литературы и использования возможностей ин-тернета.

Для лиц с ограниченными возможностями, не имеющих противопоказаний соглас-но письму Минздравсоцразвития от 12.04.2011 № 302-н, предусмотрена возможность за-ниматься по адаптированным индивидуальным планам, предусматривающим более гиб-кую систему организации учебных занятий с учетом индивидуальных возможностей обу-чаемых. В частности, предполагается применение дистанционных образовательных тех-нологий и средств удаленного доступа. Предусмотрены следующие формы организации педагогического процесса и кон-троля знаний: -для слабовидящих: обеспечивается индивидуальное равномерное освещение не менее 300 люкс; задания для выполнения, а также инструкция о порядке выполнения контрольных заданий оформля-ются увеличенным шрифтом (размер 16-20); - для глухих и слабослышащих: обеспечивается наличие звукоусиливающей аппаратуры коллективного пользования, при необходимости обучающимся предоставляется звукоусиливающая аппаратура индивиду-ального пользования; - для лиц с тяжелыми нарушениями речи, глухих, слабослышащих все контрольные зада-ния по желанию обучающихся могут проводиться в письменной форме. Обучение в условиях применения адаптивных индивидуальных программ предпола-гает активную самостоятельную деятельность: чтение обязательной и дополнительной ли-тературы, реферативная работа, решение задач различного уровня сложности. Технология адаптивного обучения предполагает осуществление контроля всех видов, в том числе ди-станционного. Освоение курса «Теория информации и кодирования» допускает выполнение прак-тических работ самостоятельно в домашних условиях. Предполагается, что данные рабо-ты могут быть реализованы в рамках дистанционного обучения.

6

Обучающиеся инвалиды и лица с ограниченными возможностями здоровья обеспе-чиваются электронными образовательными ресурсами: электронными пособиями, презен-тациями лекционных курсов, программным обеспечением для реализации компьютерных лабораторных и практических работ. Предусмотрена возможность получения данных средств на университетских и кафедральных сайтах, а также при непосредственном обще-нии с преподавателем по электронной почте. 6. Учебно-методическое обеспечение самостоятельной работы студентов. Оценочные средства для текущего контроля успеваемости, промежуточной аттестации по ито-гам освоения дисциплины

Важную роль при освоении дисциплины «Теория информации и кодирования» играет самостоятельная работа студентов. Самостоятельная работа способствует:

• углублению и расширению знаний; • формированию интереса к познавательной деятельности; • овладению приёмами процесса познания; • развитию познавательных способностей. Самостоятельная работа студентов имеет основную цель – обеспечить качество

подготовки выпускаемых специалистов в соответствии с требованиями основной образовательной программы по направлению подготовки бакалавров 03.03.03 «Радиофизика».

К самостоятельной работе относятся: • самостоятельная работа на аудиторных занятиях (лекциях, практических занятиях); • внеаудиторная самостоятельная работа.

6.1. Виды самостоятельной работы студента:

Освоение дисциплины «Теория информации и кодирования» предполагает следующие виды самостоятельной работы: - изучение теоретического материала по конспектам лекций и рекомендованным учебным пособиям, монографической учебной литературе, справочным источникам;

- самостоятельное изучение некоторых теоретических вопросов, выделенных в программе дисциплины, нерассмотренных на лекциях;

- решение задач и выполнение заданий теоретического характера, расчетных и графиче-ских по всем разделам дисциплины в процессе подготовки к практическим занятиям.

Раздел/Тема дисциплины Вид самостоятельной работы Литература

Тема 1 Проработка конспектов лекций и вопросов, вынесен-ных на самостоятельное изучение с помощью основ-ной и дополнительной литературы. Подготовка к практическим занятиям.

см. раздел 8 «Учебно-методическое и ин-формационное обеспе-чение дисциплины»







7

Итого часов на самостоятельную работу: 36 часов 6.2. Порядок выполнения и формы текущего контроля самостоятельной работы сту-дентов - предусмотрена еженедельная самостоятельная работа обучающихся по изучению теоре-тического лекционного материала; контроль выполнения этой работы предусмотрен при проведении тестирования по данной дисциплине;

- самостоятельное изучение некоторых теоретических вопросов, нерассмотренных на лек-циях предусматривается по мере изучения соответствующих разделов, контроль выпол-нения этой самостоятельной работы предусмотрен в рамках зачета по данной дисци-плине;

- решение ряда задач, выполнение и письменное оформление заданий теоретического ха-рактера, расчетных и графических по всем разделам дисциплины предусмотрено факти-чески еженедельно по мере формулировки этих заданий на лекциях; контроль выполне-ния этой самостоятельной работы предусмотрен при завершении изучения дисциплины по представленному в печатном виде отчету по этому виду самостоятельной работы;

Промежуточная аттестация студента осуществляется в соответствии с учебным планом в конце восьмого семестра. Итоги обучения оцениваются в форме экзамена Материалы для текущего контроля успеваемости и средства для промежуточной аттеста-ции по итогам освоения дисциплины приведены в Приложении «Фонд оценочных средств текущего контроля и промежуточной аттестации по дисциплине». 7. Данные для учета успеваемости студентов в БАРС

Таблица 1. Таблица максимальных баллов по видам учебной деятельности.

1 2 3 4 5 6 7 8 9

Семестр Лек-ции

Лабора-торные занятия

Практиче-ские заня-тия

Самостоя-тельная работа

Контрольное тестирова-ние

Другие виды учебной дея-тельности

Промежу-точная

аттестация Итого

8 15 0 30 15 10 0 40 100 Программа оценивания учебной деятельности студента 8 семестр Лекции Посещаемость, опрос, активность и др. за один семестр – от 0 до 10 баллов. Критерии оценки:

• не более 50% от числа занятий в семестре – 0 баллов, • от 51% до 60% – 1-2 балла; • от 61% до 70% – 3-4 балла; • от 71% до 80% – 5-6 баллов; • от 81% до 90% – 7-9 баллов; • не менее 91% занятий – 10 баллов.

Лабораторные занятия

8

Не предусмотрены. Практические занятия от 0 до 30 баллов. Критерии оценки: Работа в аудитории – 0-10 баллов Выполнение домашних заданий – 0-10 баллов Выполнение контрольных тестов –0-10 баллов Самостоятельная работа от 0 до 10 баллов. Критерии оценки: Решение заданий для самоконтроля – 0-10 баллов Контрольное тестирование от 0 до 10 баллов. Критерии оценки: Невыполнение заданий – 0 баллов Правильное выполнение 1-го задания – 1-3 балла Правильное выполнение -2х заданий – 4-5 баллов Правильное выполнение -3х заданий – 6-7 баллов Правильное выполнение -4х заданий – 8-9 баллов Правильное выполнение всех (пяти) заданий – 10 баллов Другие виды учебной деятельности Не предусмотрены Промежуточная аттестация 36-40 баллов – ответ на «отлично» 30-35 баллов – ответ на «хорошо» 25-29 баллов – ответ на «удовлетворительно» 0-24 баллов – «не удовлетворительно» Таким образом, максимально возможная сумма баллов за все виды учебной деятельности студента за 8 семестр по дисциплине «Теория информации и кодирования» составляет 100 баллов.

Таблица 2. Пересчет полученной студентом суммы баллов по дисциплине «Теория ин-формации и кодирования» в оценку:

85-100 баллов «отлично»

71-84 баллов «хорошо»

51-70 баллов «удовлетворительно»

0-50 баллов «не удовлетворительно»

8. Учебно-методическое и информационное обеспечение дисциплины «Теория ин-формации и кодирования»

а) Основная литература:

9

1. Панин В.В. Основы теории информации: Учебное пособие. - М.: Изд-во «Бином. Лабо-ратория знаний», 2007 (2-е издание). (В НБ СГУ – 10 экз.,) Электронный ресурс -- http://znanium.com/bookread.php?book=366057) 2. Маскаева А.М. Основы теории информации: Учебное пособие. - М.: Форум: НИЦ ИН-ФРА-М, 2014. Электронный ресурс -- http://znanium.com/bookread.php?book=429571

3. Вернер М. Основы кодирования: Учебное пособие – М.: Техносфера, 2006. (17 экз.)

б) Дополнительная литература: 1. Чечёта С.И. Введение в дискретную теорию информации и кодирования: Учебное пособие. – М.: Изд-во МЦНМО, 2011. – (10 экз.)

2.Тартаковский Г.П. Теория информационных систем: Учебное пособие. - М.: НЦ «Физ-маткнига», 2005. (В НБ СГУ – 8 экз.) 3. Сэломон Д. Сжатие данных, изображений и звука: Учеб.пособие. - Москва: Техносфера, 2004. - (В НБ СГУ – 2 экз.)

в) Рекомендуемая литература 1. Лидовский В.В. Теория информации: Учебное пособие. - М.: Изд-во «Спутник», 2004. 2. Самсонов Б.Б., Плохов Е.М., Филоненков А.И., Кречет Т.В. Теория информации и ко-дирование: Учебное пособие. - М.: Изд-во «Феникс», 2002.

3. Ватолин Д., Ратушняк А., Смирнов М., Юкин В. Методы сжатия данных: Учебное по-собие. - М.: «Диалог-МИФИ», 2003.

4. Галлогер Р. Теория информации и надёжная связь. - М.: «Сов. Радио», 1974. г) Программное обеспечение и Интернет-ресурсы: 1. Сайт СГУ (система управления электронными образовательными ресурсами Moodle)

http://course.sgu.ru 2. Электронная библиотека http://library.sgu.ru. 3. Научно-образовательный интернет-портал кафедры радиофизики и нелинейной

динамики СГУ (электронные версии учебных пособий, подготовленных сотрудниками кафедры) http://chaos.sgu.ru

9. Материально-техническое обеспечение дисциплины «Теория информации и коди-рования» • Компьютерные классы физического факультета (ауд. 88 и 69–а 8-го учебного корпуса) и кафедры радиофизики и нелинейной динамики (ауд. 52 3-го учебного корпуса). По-мещения соответствуют действующим санитарным и nротивопожарным нормам, а так-же требованиям техники безопасности и охраны труда при проведении учебных, науч-но-исследовательских и научно-nроизводственных работ.

• Помещения соответствующие действующим санитарным и противопожарным нормам, а также требованиям техники безопасности и охраны труда при проведении учебных и научно-исследовательских работ.

• Персональные ЭВМ, объединенные в локальную сеть и с выходом в Интернет. • Электронные презентации лекций. • Мультимедиапроектор.

Теория информации и кодирования · 2017-03-14 · 4 Тема 2....

Documents