Теорема шеннона для канала без помех

Для дискретного канала без помех формулировка теоремы Шеннона сводится к следующему.

Если поток информации, вырабатываемый источником, достаточно близок к пропускной способности канала, то всегда можно найти такой способ кодирования, который обеспечит передачу всех сообщений, вырабатываемых источником, причем, скорость передачи информации будет весьма близка к пропускной способности канала.

Это утверждение имеет следующую форму математической записи:

где – скорость передачи информации; С – пропускная способность канала; σ сколь угодно (бесконечно) малая величина.

Не нашли то, что искали? Воспользуйтесь поиском:

Лучшие изречения: Как то на паре, один преподаватель сказал, когда лекция заканчивалась – это был конец пары: "Что-то тут концом пахнет". 8526 – | 8113 – или читать все.

91.146.8.87 © studopedia.ru Не является автором материалов, которые размещены. Но предоставляет возможность бесплатного использования. Есть нарушение авторского права? Напишите нам | Обратная связь.

Отключите adBlock!
и обновите страницу (F5)

очень нужно

Рассмотрим две фундаментальные теоремы идеального кодирования, носящие имя Шеннона. Первая из них рассматривает случай отсутствия помех в канале, вторая учитывает наличие помех, приводящих к ошибкам.

Рассмотрим проблему согласования источника сообщений и канала при передаче последовательности сообщений. Пусть источник сообщений выдает сообщения с некоторой скоростью (сообщений/ед. времени), называемой технической производительностью источника. Пусть по каналу можно передавать без искажений сообщения со скоростью, не превышающей некоторую величину (сообщений/ед. времени), называемую технической пропускной способностью канала. Очевидно, что если выполняется условие ? Можно ли в этом случае обеспечить передачу без искажений? Если исходить только из технических характеристик, то, очевидно, нельзя. А если учесть информационные характеристики? Ведь нам известно, что если последовательность обладает информационной избыточностью, то её можно сжать, применив методы экономного кодирования. Рассмотрим подробнее такую возможность.

Читайте также:  Составить уравнение ребра ас

Пусть Vu – (информационная) производительность источника, т.е. количество информации, производимое источником в единицу времени; Ck — (информационная) пропускная способность канала, т.е. максимальное количество информации, которое способен передать канал без искажений за единицу времени. Первая теорема Шеннона утверждает, что безошибочная передача сообщений определяется соотношением Vu и Ck.

Первая теорема Шеннона:если пропускная способность канала без помех превышает производительность источника сообщений, т.е. удовлетворяется условие Ck >Vu,

то существует способ кодирования и декодирования сообщений источника, обеспечивающий сколь угодно высокую надежность передачи сообщений. В противном случае, т.е. если Ck

Дата добавления: 2016-03-22 ; просмотров: 409 ; ЗАКАЗАТЬ НАПИСАНИЕ РАБОТЫ

Теоремы Шеннона для канала с шумами (теоремы Шеннона для передачи по каналу с шумами) связывают пропускную способность канала передачи информации и существование кода, который возможно использовать для передачи информации по каналу с ошибкой, стремящейся к нулю (при увеличении длины блока).

Формулировка теорем [ править | править код ]

  • K <displaystyle K>— длина блока, генерируемого источником
  • L <displaystyle L>— длина блока, который будет передан по каналу (после кодирования)
  • R <displaystyle R>— скорость передачи сообщений (производительность источника)

R = K / L <displaystyle R=K/L>

  • C <displaystyle C>— пропускная способность канала, определяемая как максимум взаимной информации на входе и выходе канала ( X <displaystyle X>и Y <displaystyle Y>— представление входа и выхода канала как случайных величин)

C = max ( I ( X ; Y ) ) <displaystyle C=max()>

  • P e r <displaystyle P_>— средняя вероятность ошибки декодирования блока
  • P e r , m a x <displaystyle P_>— максимальная вероятность ошибки декодирования блока

P e r , m a x = max 1 ⩽ s ⩽ M P e r <displaystyle

_=max limits _<1leqslant sleqslant M>P_>

Если скорость передачи сообщений меньше пропускной способности канала связи ( R C <displaystyle R ), то существуют коды < x 1 → , x 2 → , . . . , x M → ><displaystyle left<<<vec <1>>>,<vec <2>>>. <vec >>>
ight>> и методы декодирования такие, что средняя и максимальная вероятности ошибки декодирования стремятся к нулю, когда длина блока стремится к бесконечности, то есть P e r → 0 <displaystyle P_ o 0> , P e r , max → 0 <displaystyle P_ o 0> при L → ∞ <displaystyle L o infty > .

Читайте также:  Элт монитор плюсы и минусы

Иными словами: Для канала с помехами всегда можно найти такую систему кодирования, при которой сообщения будут переданы со сколь угодно большой степенью верности, если только производительность источника не превышает пропускной способности канала.

Если скорость передачи больше пропускной способности, то есть C>"> R > C <displaystyle R>C> C>"/> , то не существует таких способов передачи, при которых вероятность ошибки стремится к нулю ( P e r → 0 <displaystyle P_ o 0> ) при увеличении длины передаваемого блока, ( L → ∞ <displaystyle L o infty > ).

Предел Шеннона [ править | править код ]

Под пределом Шеннона (англ. Shannon limit ) понимается максимальная скорость передачи, для которой имеется возможность (выбрать сигнально-кодовую конструкцию) исправить ошибки в канале с заданным отношением сигнал/шум. Для канала с аддитивным белым гауссовским шумом пропускная способность согласно формуле Шеннона:

C = Δ F ⋅ log ⁡ ( 1 + P s P n ) = Δ F ⋅ log ⁡ ( 1 + P s N 0 F ) <displaystyle C=Delta Fcdot log left(1+<frac >>>
ight)=Delta Fcdot log left(1+<frac
><0>F>>
ight)> ,

Максимальная пропускная способность канала с АБГШ и неограниченным спектром:

C ∞ = lim F → ∞ C = lim F → ∞ F ⋅ log ⁡ e ⋅ ln ⁡ ( 1 + P s N 0 F ) = lim F → ∞ F ⋅ P s N 0 F log ⁡ e = P s N 0 log ⁡ e ≈ P s N 0 ⋅ 1 , 443 <displaystyle C_<infty >=lim _C=lim _Fcdot log ecdot ln left(1+<frac ><0>F>>
ight)=lim _Fcdot <frac
><0>F>>log e=<frac ><0>>>log eapprox <frac ><0>>>cdot 1,443> бит/с.

В настоящее время (2007 год) максимальное приближение к этому пределу даёт LDPC-код с примерной длиной блока в 10 миллионов бит.

Также, с другой стороны, под пределом Шеннона можно понимать минимальное отношение сигнал/шум, для которого теоретически возможно безошибочная передача и декодирование блока с заданной скоростью. Например, для вида модуляции QPSK и скорости передачи 1 (бит/с)/символ минимальное отношение сигнал/шум составляет 0,25 дБ.

Оцените статью
Добавить комментарий

Adblock detector