Кожна зміна в стакані заявок належить до одного з 5 видів подій з імовірностями 1/2, 1/4, 1/8, 1/16 і 1/16. Яка ентропія Шеннона виду події в бітах? Дайте дріб.

Навчання / Бібліотека / Ймовірність

Ентропія подій стакана

ЙмовірністьЛегке

Кожна зміна в стакані заявок належить до одного з $5$ видів подій з імовірностями $\frac{1}{2}$ , $\frac{1}{4}$ , $\frac{1}{8}$ , $\frac{1}{16}$ і $\frac{1}{16}$ . Яка ентропія Шеннона виду події в бітах? Дайте дріб.

Для перевірки відповіді потрібен JavaScript. Підказка й розв’язок відкриваються і без нього.

Підказка

Кожна з імовірностей є степенем $\frac{1}{2}$ , тож кожен логарифм цілий.

Розв’язок

Несподіванки $- log_{2} p$ дорівнюють $1$ , $2$ , $3$ , $4$ і $4$ біти.
Зважування дає $\frac{1}{2} \times 1 + \frac{1}{4} \times 2 + \frac{1}{8} \times 3 + \frac{1}{16} \times 4 + \frac{1}{16} \times 4 = \frac{15}{8}$ .

Відповідь: $\frac{15}{8}$

Наступна задача Назад до бібліотеки