Курс: Информатика                                     ВМ, САПР, АСОИ, Т28 -2 курс

ЛЕКЦИЯ  №4

Тема: Информационная мера Шеннона 
 

1. ИНФОРМАЦИОННАЯ  МЕРА ШЕННОНА

1.1. Количество  информации и избыточность

1.2. Энтропия  непрерывных сообщений

2. УСЛОВНАЯ ЭНТРОПИЯ И ВЗАИМНАЯ ИНФОРМАЦИЯ

2.1. Дисктретные  системы передачи информации

2. Непрерывные системы передачи информации

Слайды  к лекции №4 

1. Условная энтропия  и взаимная информация.

2. Количество  информации и избыточность

3. Аддитивность  информационной меры