Рекомендуем

Теория электрической связи: курс лекцийАндреев Р.Н., Краснов Р.П., Чепелев М.Ю. Теория электрической связи: курс лекций
Стохастическая информатика: инновации в информационных системахОсмоловский С.А. Стохастическая информатика: инновации в информационных системах
Технология OFDMБакулин М.Г., Крейнделин В.Б., Шлома А.М., Шумов А.П. Технология OFDM

Книга

Теория информации. Курс лекций

Учебное пособие для вузов
2017 г.
144 стр.
Тираж 500 экз.
Формат 60х90/16 (145x215 мм)
Исполнение: в мягкой обложке
ISBN 978-5-9912-0237-4
ББК 32.811
УДК 621.391 (075.8)
Гриф УМО
Допущено Сибирским региональным отделением УМО по образованию в области информационной безопасности в качестве учебного пособия для студентов, обучающихся специальности 090302 – «Информационная безопасность телекоммуникационных систем»
Аннотация

Рассмотрены в доступной форме основные положения теории информации. Материалы систематизированы по следующим ключевым разделам: определение информационных потерь в каналах связи с помехами, построение оптимальных кодов, обнаружение и исправление ошибок при использовании различных методов передачи и обработки информации, представление кодов в памяти ЭВМ в сжатом виде и в виде разнообразных структур.

Для студентов специальности "Информационная безопасность телекоммуникационных систем". Может быть полезно студентам других инфокоммуникационных и радиотехнических специальностей, аспирантам и специалистам.

Оглавление

Содержание

Предисловие

1. Введение в теорию информации
1.1. Краткая историческая справка о развитии систем передачи информации (систем связи) и теории информации (теории связи)
1.1.1. Краткая история развития систем связи
1.1.2. О понятии «информация». Краткая история развития теории информации
1.1.2.1. О понятии «информация»
1.1.2.2. Краткая историческая справка о развитии теории информации
1.2. Информационные метрики
1.2.1. Структурные меры информации
1.2.1.1. Геометрическая мера
1.2.1.2. Комбинаторная мера
1.2.1.3. Аддитивная мера
1.2.2. Статистическая мера
1.2.3. Семантическая мера
2. Энтропия вероятностной схемы
2.1. Энтропия, как мера степени неопределенности физической системы
2.2. Единицы измерения энтропии
2.3. Основные свойства энтропии простой физической системы
2.4. Энтропия и математическое ожидание
2.5. Условная энтропия и энтропия объединения Контрольные вопросы к главам 1 и 2

3. Основные теоремы Шеннона о характеризации источников информации
3.1. Количество информации в дискретном сообщении. Дискретные источники сообщений без памяти и с памятью. Избыточность дискретного источника сообщений
3.2. Первая теорема Шеннона
3.2.1. Прямая и обратная теоремы Шеннона для канала связи без шума. Первый способ доказательства прямой теоремы Шеннона
3.2.2. Второй способ доказательства прямой теоремы Шеннона для канала связи без шума. Метод Фано. Оптимальные коды
3.2.3. Практическое применение первой теоремы Шеннона
3.3. Вторая теорема Шеннона и ее следствия
3.3.1. Прямая теорема Шеннона для дискретного постоянного канала с шумом
3.3.2. Обратная теорема Шеннона для дискретного постоянного канала с шумом
3.3.3. Следствие из второй теоремы Шеннона
3.4. Статистический анализ случайных последовательностей. Энтропийные и информационные характеристики случайных последовательностей
Контрольные вопросы к главе 3

4. Статистические модели каналов связи
4.1. Математические модели каналов связи
4.1.1. Схема передачи информации. Классификация каналов связи
4.1.2. Непрерывные каналы связи
4.1.3. Дискретные каналы связи

4.2. Влияние шумов на пропускную способность дискретного канала связи
4.3. Пропускная способность систем передачи информации

5. Оптимальное кодирование
5.1. Префиксные коды
5.2. Неравенство Крафта
5.3. Информационная избыточность. Границы для средней длины кодов Контрольные вопросы к главам 4 и 5

6. Обнаружение и исправление ошибок в сообщениях. Понятие об идее коррекции ошибок
7. Линейное кодирование
7.1. Свойства помехозащищающих кодов
7.1.1. Помехоустойчивые коды и их применение
7.1.2. Основные параметры помехоустойчивых кодов
7.1.3. Граничные соотношения между параметрами помехоустойчивых кодов
7.1.4. Классификация помехоустойчивых кодов
7.2. Линейные коды. Параметры и свойства
7.3. Код Хэмминга
Контрольные вопросы к главам 6 и 7

8. Циклические коды
8.1. Определение и свойства двоичных циклических кодов
8.2. Систематические циклические коды
8.3. Обнаружение пакетов ошибок

9. Построение и декодирование конкретных циклических кодов
9.1. Коды, исправляющие одиночную ошибку, кодовое расстояние d0 = 3
9.2. Коды, обнаруживающие трехкратные ошибки, d0 = 4
9.3. Циклические коды, исправляющие две и большее количество ошибок, d0 > 5

10. Обнаружение и исправление ошибок при передаче и обработке информации на стандартной аппаратуре

11. Сжатие информации
Контрольные вопросы к главам 8, 9, 10, 11

12. Структурное кодирование
Контрольные вопросы к главе 12

Примерные вопросы к экзамену по дисциплине «Теория информации»

Библиография