Кожен день має один із 3 результатів, що випадають незалежно. Справжній закон P дає їм імовірності 1/4, 1/4, 1/2, а модель-суперниця Q дає 1/2, 1/4, 1/4. Щодня ви додаєте log₂ (p(x)/q(x)) до рахунку, де x це результат дня. Який очікуваний рахунок через 10 днів? Дайте дріб.

Навчання / Бібліотека / Статистика

Свідчення за багато днів

СтатистикаСереднє

Кожен день має один із $3$ результатів, що випадають незалежно. Справжній закон $P$ дає їм імовірності $\frac{1}{4}$ , $\frac{1}{4}$ , $\frac{1}{2}$ , а модель-суперниця $Q$ дає $\frac{1}{2}$ , $\frac{1}{4}$ , $\frac{1}{4}$ . Щодня ви додаєте $log_{2} (\frac{p ( x )}{q ( x )})$ до рахунку, де $x$ це результат дня. Який очікуваний рахунок через $10$ днів? Дайте дріб.

Для перевірки відповіді потрібен JavaScript. Підказка й розв’язок відкриваються і без нього.

Підказка

Очікуваний денний рахунок це дивергенція KL.

Розв’язок

Денні рахунки дорівнюють $- 1$ , $0$ і $1$ .
Очікуваний денний рахунок дорівнює $\frac{1}{4} \times (- 1) + \frac{1}{4} \times 0 + \frac{1}{2} \times 1 = \frac{1}{4}$ .
Сподівання додаються за днями, тож рахунок дорівнює $10 \times \frac{1}{4} = \frac{5}{2}$ .

Відповідь: $\frac{5}{2}$

Наступна задача Назад до бібліотеки