Сколько информации содержит факт о том, что из кейса был извлечен фломастер зеленого цвета?

Тема занятия: Количество информации в факте

Пояснение: Количество информации, содержащейся в факте, можно рассматривать с точки зрения шкалы вероятности. Если факт произошел с очень высокой вероятностью, то он не несет особой информации, так как его ожидалось. Однако, если факт произошел с низкой вероятностью, он является информативным и содержит больше информации.

В данном случае, факт о том, что из кейса был извлечен фломастер зеленого цвета, содержит некоторую информацию. Для оценки ее количества нужно учесть вероятность наличия зеленого фломастера в кейсе. Если большинство фломастеров в кейсе - зеленые, то этот факт не несет особой информации, так как его ожидали. Но если вероятность наличия зеленого фломастера низка, то такой факт является информативным и содержит больше информации.

Пример: Пусть в кейсе находится 10 фломастеров, причем только 1 из них - зеленый. Извлеклся именно зеленый фломастер. Этот факт содержит намного больше информации, так как вероятность его происхождения была низкой.

Совет: Для оценки количества информации в факте, полезно оценить вероятность его происхождения. Если факт необычен или неожиданен, то он вряд ли будет не несет много информации.

Закрепляющее упражнение: Представьте, что в кейсе находится 5 фломастеров, 2 из которых зеленые, 1 - красный, 1 - синий и 1 - желтый. Какую информацию содержит факт, что из кейса был извлечен фломастер зеленого цвета?