Расчет энтропии и количества информации в сообщении

     Коаксиальные  кабели широко используются не только в компьютерных сетях, но и для передачи ВЧ телевизионных сигналов.

     Кабель  RG-8 и RG-11 – «толстый» коаксиальный кабель, имеет волновое сопротивление 50 Ом и внешний диаметр 2.5 см. Это дорогой кабель с высокими характеристиками.

     Кабели  RG-58/U (сплошной тонкий проводник), RG-58 A/U (многожильный проводник) и RG-58 C/U,  RG-59 – тонкие коаксиальные кабели с волновым сопротивлением 50 Ом.

     Волоконно-оптические кабели (ВОК) состоят из центрального проводника света (волокна), окруженного другим проводником – оболочкой. Оболочка обладает меньшим показателем преломления, чем сердцевина, поэтому излучение не выходит за пределы волокна.

     Различают одномодовое волокно (очень тонкого  диаметра), с полосой пропускания сотни гигагерц, и многомодовое волокно, с более широким сердечником и меньшей полосой пропускания (500-800 МГц). В многомодовом волокне из-за относительно больших размеров электромагнитная волна высокой частоты может распространяться в нескольких режимах (модах), с разными скоростями, что приводит к искажениям передачи информации. Поэтому верхняя граничная частота такого волокна ограничена нижней частотой возникновения высших мод.

     В качестве источников света в ВОК  используют светодиоды и полупроводниковые лазеры. Для передачи информации используется свет с длиной волны 850-1300 нм.

       1.3 Этапы повышения помехоустойчивости данных

       Для передачи данных используются способы  с максимальным использованием свойств каналов по скорости и достоверности передачи данных.

       Данные  первоначально предоставляются  последовательностью прямоугольных импульсов. Для их передачи без искажения требуется полоса частот от нуля до бесконечности. Реальные каналы имеют конечную полосу частот, с которой необходимо согласовать передаваемые сигналы. Согласование обеспечивается, во-первых, путем модуляции – переноса сигнала на заданную полосу частот и, во-вторых, путем кодирования – преобразовании данных в вид, позволяющий обнаруживать и исправлять ошибки, возникающие из-за помех в канале связи.

       1.3.1 Кодирование передаваемых данных

       Искажение информации может происходить по различным причинам от помех или шумов, которые могут быть вызваны различными обстоятельствами, такими, как неисправность ЭВМ, отклонение от стандартов напряжения сети или влажности помещения, внешние помехи и другое.

       Поэтому одной из важнейших проблем теорий кодирования является проблема обнаружения и исправления ошибок, возникающих при передаче информации. Различают три вида ошибок, возникающих по различным причинам:

1. погрешности в данных;
2. методические погрешности;
3. неисправности в работе ЭВМ.

       Ошибки первого и второго вида система контроля не сможет исправить самостоятельно, их надо учесть заранее.

       В задачи помехоустойчивого кодирования  входит обнаружение и исправление ошибок третьего вида. Эта цель достигается введением избыточной информации. Избыточность информации можно получить аппаратными (схемными), логическими и информационными средствами. Существует несколько десятков разнообразных методов распознавания и коррекции ошибок кодирования, предназначенных для каналов связи с различными характеристиками помех.

       Сформулируем  три глобальные проблемы кодирования:

1. создание шифра кодирования;
2. создание специальных корректирующих кодов для поиска и исправления ошибок, возникающих в результате передачи и хранения информации;
3. минимизация избыточной информации для успешной коррекции и сокращения потерь в скорости передачи сообщения.

       Один  из самых эффективных путей кодирования  основан на применении основной теоремы  Шеннона для каналов без шума. Согласно первой теореме Шеннона, если канал передачи не содержит собственных помех, то, возможно, так закодировать сообщение, чтобы среднее число элементов кода (двоичных симво­лов), приходящихся на один элемент кодируемого алфавита, было минимальным. Это так называемое эффективное статистическое кодирование.

       Первая  теорема Шеннона утверждает, что  вероятность ошибок при передаче информации сколь угодно мала, если энтропия S множества передаваемых сообщений меньше пропускной способности канала связи С, определяемой как наибольшее число бит, которые возможно передавать по этому каналу связи за единицу времени.

       Для каналов связи с помехами справедлива  вторая теорема Шеннона (прямая теорема  кодирования), согласно которой всегда существует способ кодирования, такой, что информация может быть передана с какой угодно высокой достоверностью при большой длине передаваемых слов, если скорость передачи не выше пропускной способности канала связи. Вторая теорема Шеннона доказывает принципиальную возможность помехоустойчивого кодирования.

       Первый  классификационный признак – коды бывают блочными или непрерывными. При блочном кодировании передаваемые двоичные сообщения сгруппированы в блоки, которыми кодируются знаки (или группы знаков) первичного алфавита. В блоке присутствуют информационные и проверочные биты. Если все кодовые комбинации имеют одинаковую длину, код называется равномерным; если нет – неравномерным. При декодировании удобнее (проще) иметь дело с равномерным кодом, поэтому именно он, как правило, используется в помехоустойчивом кодировании. Непрерывные (синонимы: цепные, сверточные, рекуррентные) коды представляют собой непрерывную последовательность бит, не разделяемую на блоки (информационные и проверочные биты в них чередуются по определенному правилу). Блочное кодирование удобно использовать в тех случаях, когда исходные данные по своей природе уже сгруппированы в какие-либо блоки или массивы. При передаче по радиоканалам чаще используется сверточное кодирование, которое лучше приспособлено к побитовой передаче данных. Кроме этого, при одинаковой избыточности сверточные коды, как правило, обладают лучшей исправляющей способностью.

2. Классификация помехоустойчивых кодов

       Второй  классификационные признак, относящийся  как к блочным, так и к непрерывным  кодам, подразделяет коды на разделимые и неразделимые. Разделимыми называются коды, в которых информационные и проверочные биты располагаются в строго определенных позициях. В неразделимых кодах такой определенности нет, что затрудняет их кодирование и декодирование. Поэтому практический интерес представляют в основном разделимые коды, а из неразделимых – только коды с постоянным весом.

       Третий  классификационный признак относится  только к блочным разделимым кодам – они подразделяются на систематические (линейные) и несистематические. Двоичный код является линейным, если сумма по модулю 2 (mod2) двух кодовых слов также является кодовым словом этого кода. В линейных кодах проверочные биты являются результатом линейных операций над информационными разрядами. В несистематических (нелинейных) кодах информационные и проверочные биты либо вообще не имеют связи, либо эта связь нелинейна – такие коды применяются крайне редко.

       Наиболее  часто в линиях связи используются блочные линейные коды, называемые (n, k)-коды, к которым относятся циклические, коды Хемминга, матричные канонические и ряд других.

       При цифровом кодировании дискретной информации применяют потенциальные и импульсные коды. В потенциальных кодах для представления логических единиц и нулей используется только значение потенциала сигнала. Импульсные коды позволяют представить двоичные данные либо импульсами определенной полярности, либо перепадом потенциала определенного направления.

       При выборе метода цифрового кодирования  к нему предъявляют следующие требования:

1. наименьшая ширина спектра результирующего сигнала (узкий спектр сигналов позволяет добиваться высокой скорости передачи данных);
2. возможность синхронизации между передатчиком и приемником (как правило, в сетях применяются самосинхронизирующиеся коды, сигналы которых позволяют передатчику автоматически определять тактовую частоту передачи информационных битов, например, по резким перепадам сигналов);
3. возможность распознавания ошибок (распознавание и коррекция ошибок реализуется средствами логического кодирования, или используется избыточность физических кодов).

       В самосинхронизирующихся кодах каждый переход уровня сигнала от высокого к низкому уровню или наоборот используется для подстройки приемника. Лучшими считаются коды, которые обеспечивают переход уровня сигнала не менее одного раза в течение интервала времени на приеме одного информационного бита.

         Потенциальный код без возвращения  к нулю (NRZ - Non Return to Zero) – 0 и 1 кодируются различными уровнями сигнала. Это наиболее простой способ кодирования, но имеет постоянную составляющую в спектре. При передаче длинных серий одноименных битов (единиц или нулей) уровень сигнала остается неизменным для каждой серии, что снижает качество синхронизации и надежность распознавания принимаемых битов.

3. Иллюстрация самосинхронизирующихся кодов

       Потенциальный код с возвращением к нулю (Return to Zero) – код, аналогичный NRZ,  с возвращением к нулю на середине каждого тактового интервала. Имеет большее число переходов уровня сигнала, чем сигнал  в коде NRZ.

       Биполярное  кодирование с альтернативной инверсией (AMI) – 0 кодируется нулевым потенциалом, а 1 – положительным или отрицательным ненулевым, причем потенциал каждой следующей единицы противоположен по знаку предыдущей. Спектр кода не содержит постоянной составляющей. Используется три уровня сигналов, что требует увеличения мощности передатчика. Обладает хорошими синхронизирующими свойствами при передаче серий единиц и прост в реализации. Недостатком кода является ограничение на плотность нулей в потоке данных, поскольку длинные последовательности нулей ведут к потере синхронизации.

       Манчестерский код (Phase Encode, фазовое кодирование) – наиболее популярный код, применяемый в локальных сетях. При манчестерском кодировании информация передается перепадами потенциала, происходящими в середине такта. Единица кодируется перепадом от низкого уровня к высокому, а ноль наоборот. В начале каждого такта может происходить, а может и не происходить служебный перепад (он происходит, если в предыдущем такте передаваемый бит имел то же значение, что и в текущем.). Манчестерский код обеспечивает изменение уровня сигнала при представлении каждого бита и не имеет постоянной составляющей.

       Логическое  кодирование – это предварительное изменение передаваемой информации с целью сделать ее более удобной для передачи. Например, путем логического кодирования избавляются от длинных последовательностей нулей и единиц.

       Избыточное  кодирование – вариант логического кодирования, при котором к основной информации добавляется дополнительная. При этом передаваемая последовательность бит разбивается на порции, называемые символами, и каждый символ заменяется на новый, имеющий большее количество бит, чем исходный. Например, логический код 4В/5В заменяет исходные символы длиной 4 бита на символы длиной 5 бит. При этом возникает 16 «запрещенных» символов, прием которых свидетельствует об ошибке связи и появляется возможность исправления ошибок передачи.

       Применение  самосинхронизирующихся кодов обеспечивает побитовую синхронизацию, но для  обнаружения начала и окончания  потока бит и его разделения на байты (побайтовая синхронизация) необходимы специальные методы.

       В асинхронных протоколах для низкоскоростного взаимодействия с периферийными устройствами каждый байт (или группа бит фиксированной длины) предваряются специальным набором старт-бит и завершаются стоп-битами.

       В синхронных протоколах данные передаются большими блоками произвольной длины (кадрами). Кадр предваряется преамбулой – фиксированной последовательностью бит. После преамбулы начало и конец кадра обозначаются стартовыми и стоповыми ограничителями (флагами). Для того чтобы при возникновении внутри поля данных последовательности бит, совпадающей со стоповым ограничителем, не нарушался порядок приема кадра, существуют специальные методы, например, передача в заголовке кадра (имеющего фиксированную длину) сведений о длине поля данных.

       1.3.2 Методы обнаружения искажений информации