Сайт o сименсе

Даже на таком простейшем+++

ЭНЦИКЛОПЕДИЯ WiMAX ПУТЬ К 4G - В. Портной

Даже на таком простейшем примере видно, что сообщения содержат избы­точность. устраняя которую можно «сжимать» информацию.

Предположим, что мы имеем дискретный канал, вероятность возникновения ошибки в котором близка к нулю (в идеале = 0). Такой канал называют идеаль­ным каналом или каналом без шума. При наличии идеального канала естествсшк < поставить вопрос о возможности" передачи по нему без потерь инсрормации от произвольного дискретного источника .4, характеризуемого энтропией Н(А), со скоростью, равной пропускной способности канала. Блок-схема такой систе­мы передачи информации показана на рис. 2.3.

Дискретный      Кодер,                             Декодер,        Получатель

источник устраняющий               Канал            вносящий      дискретной

информации избыточность           связи избыточность информации

Рис. 2.3. Блок-схема системы передачи информации мере» идеальный канал свяли

Кодер осуществляет кодирование сообщений, т.е. каждому дискретному со­общению по определенному правилу ставит в соответствие последовательность символов из алфавита .4. При этом по отношению к входу канала выдаваемые кодером символы сами являются дискретными элементами сообщений, стати­стические свойства которых должны отличаться от статистических свойств сообщений исходного источника. Возможность построения кодера, полностью устраняющего избыточность произвольного исходного источника сообшений. и определяет возможность решения поставленной задачи безошибочной передачи информации со скоростью, равной пропускной способности канала связи. При полном решении этой задачи энтропия как раз и оказывается равной средней длине буквы на выходе кодера.