При воздействии шума в двоичной системе связи каждый из входных символов изменяет свое значение независимо

Тема урока: Распределение вероятностей входного и выходного алфавита

Описание: Для определения распределения вероятностей входного алфавита Px и выходного алфавита Py, нам понадобится использовать заданную информацию о вероятности изменения символа при воздействии шума в двоичной системе связи (1-q).

В данной задаче у нас имеется четыре статистически независимых сообщения, которые могут быть переданы через систему с равной вероятностью в виде кодовых векторов x1={0,0}; x2={0,1}; x3={1,0}; x4={1,1}. Также имеется информация о сигналах на выходе приемника y1={0,0}; y2={0,1}; y3={1,0}; y4={1,1}.

Для определения распределения вероятностей входного алфавита Px, мы можем использовать частоту появления каждого символа в сообщении входного алфавита. В данном случае, так как все сообщения передаются с равной вероятностью, вероятность каждого символа будет равна 1/4, то есть Px(0,0) = Px(0,1) = Px(1,0) = Px(1,1) = 1/4.

Что касается распределения вероятностей выходного алфавита Py, оно может быть определено с использованием условной вероятности и правила полной вероятности. Мы можем найти вероятности каждого символа в выходном алфавите, учитывая вероятности появления соответствующих символов во входном алфавите и вероятность ошибки при передаче.

Например, чтобы найти Py(0,0), мы должны учесть, что сигнал y1 может произойти только в двух случаях: когда было передано сообщение x1={0,0} и оно было правильно принято без ошибки, или когда было передано любое другое сообщение (х2, х3 или х4) и произошла ошибка передачи. Соответственно, Py(0,0) = Px(0,0) * (1 - q) + (Px(0,1) + Px(1,0) + Px(1,1)) * q.

Аналогично, мы можем найти вероятности для остальных символов в выходном алфавите.

Пример:
- Px(0,0) = 1/4
- Py(0,0) = (1/4) * (1 - q) + (1/4 + 1/4 + 1/4) * q
- Py(0,1) = (1/4) * (1 - q) + (1/4 + 1/4 + 1/4) * q
- Py(1,0) = (1/4) * (1 - q) + (1/4 + 1/4 + 1/4) * q
- Py(1,1) = (1/4) * (1 - q) + (1/4 + 1/4 + 1/4) * q

Совет: Для лучшего понимания задачи, рекомендуется внимательно прочитать условие и осознать каждый шаг, используемый для определения вероятности. Также полезно проследить логику использования условной вероятности и правила полной вероятности.

Ещё задача: Найдите распределение вероятностей входного и выходного алфавита для случая, когда вероятность изменения символа при воздействии шума составляет q = 0.2.