Кодирование информации

Задача теорії інформації полягає в тому, щоб якомога оптимальніше використати інформаційні характеристики джерел повідомлень та каналів зв’язку для побудови кодів, які задовольнятимуть задану достовірність передаваємої інформації. При чому потрібно досягти якомога більшу швидкість передачі та мінімальні матеріальні затрати. Частковими задачами теорії інформації є вивчення властивостей інформації, методів завадостійкого кодування, дослідження взаємодії систем та елементів системи, вирішення задач прикладного характеру. Розділ теорії інформації та кодування відноситься до розділу прикладної математики, при чому основний наголос робиться на математичну статистику та теорію ймовірності.

Вступ... ……………………………………………………………………..4
1. Вихідні дані…………………………………………………...…………5
2. Найпростіші коди……………………………………………………….5
2.1 Двійково-десятковий код…………………………………………5
2.2 Код Грея…………………………………………………………….6
3. Статистичне кодування……………………………………………..…..8
3.1 Ентропія та кількість інформації……………………………….…8
3.2.1 Код Шеннона-Фано………………………………………….…..10
3.2.2 Код Хаффмена……………………………………………….…..12
3.3 Кодування ПІБ ………………………………………………….…15
4. Коди, що виявляють помилки………………………………………....15
4.1 З перевіркою на парність………………………………………….15
4.2 Код з перевіркою на непарність……………………………….….16
4.3 Інверсний код………………………………………………………17
4.4 Кореляційний код………………………………………….………18
4.5 Код Бергера………………………………………………….……..18
4.6 Код з постійною вагою……………………………………….……19
4.7 Код з кількістю одиниць у комбінації, кратною трьом…..……..20
5. Коди, що виправляють помилки…………………………….…….….20
5.1 Код Варшамова в матричному поданні…………………………..20
5.2 Код Хеммінга …………………………………………………… 23
5.3 Розширений код Хеммінга …………………………………….… 25
5.4 Ітеративний код………………………………………………….…26
5.5 Коди-супутники…………………………………………………....27
5.6 Циклічний код …. …………………………………………………29
5.7 БЧХ…………………………………………………………………32
5.8 Рекурентний ……………………………………………………… 35
6. Канальні коди…………………………………………………………..36
6.1 Дуобінарний………………………………………………………..37
6.2 Квазітроічний………………………………………………………37
6.3 Манчестер II…………………………………………………………37
6.4 4B3Т………………………………………………………………….37
7. Штрих Код EAN-8…………………………………………………….38
Висновок…………………………………………………………….……41
Список використаної літератури………………………………….…….