2. What is the amount of information in Hartleys for a message of 10 characters, given that a certain data transmission
2. What is the amount of information in Hartleys for a message of 10 characters, given that a certain data transmission device can generate 256 different symbols?
3. Known that the amount of information in Hartleys for 1 character from a certain message source is equal to 6 bits. What is the number of characters in the alphabet of the message source?
4. Two sources generate two symbols. The first source generates symbols with equal probabilities, while the second source generates symbols with different probabilities. For which source will the amount of Shannon information per symbol be greater?
5. Let the source
21.12.2023 18:06
Описание:
Когда мы говорим о количестве информации в сообщении, мы используем измерение, называемое хартли (Hartley). Оно измеряет количество информации в единицах символов, которые могут быть переданы или получены.
1. Для определения количества информации в Хартли в сообщении из 10 символов, принимая во внимание, что устройство передачи данных может создать 256 различных символов, мы применяем формулу:
Количество информации = log₂(количество символов)
Количество информации = log₂(256^10) = 10*log₂(256) = 10*8 = 80 Хартли
2. Если известно, что количество информации в Хартли для 1 символа из источника сообщения равно 6 битам, мы можем использовать формулу:
Количество символов = 2^(количество информации в Хартли)
Количество символов = 2^6 = 64 символа
3. При сравнении двух источников, где первый источник порождает символы с равными вероятностями, а второй источник порождает символы с разными вероятностями, количество информации в Хартли будет больше для второго источника, так как мы учитываем разные вероятности символов при расчете количества информации.
Например:
1. Задача: В сообщении длиной 8 символов, используя устройство передачи данных с возможностью создания 512 различных символов, определите количество информации в Хартли.
- Ответ: Количество информации = log₂(512^8) = 8*log₂(512) = 8*9 = 72 Хартли.
Совет:
- Понимание основных концепций информации, хартли и битов поможет вам лучше понять и применить данные понятия в различных задачах.
- Работа с примерами поможет уточнить ваше понимание и поможет вам лучше овладеть концепцией информации и ее измерения.
Проверочное упражнение:
1. Устройство передачи данных может создавать 64 различных символа. Какое количество информации в Хартли содержится в сообщении из 5 символов?
2. Количество информации в Хартли для одного символа известного сообщения равно 4. Сколько символов содержится в алфавите источника сообщения?