Ієрархічні моделі

Ідея: Короткий запис поруч із довгим

Майданчик K: $3$ дні із середнім $14$. Майданчик L: $36$ днів, теж $14$. Яке число дати кожному?

• Кожен окремо приймає щасливі дні за чисту монету
• Одне спільне число ігнорує справжні відмінності
• Ієрархічна модель лежить посередині

Ідея: Випадковість у шарах

Кожен майданчик має власну перевагу ${\theta }_i$, узяту зі спільної сукупності.

• Між майданчиками: ${\theta }_i\sim N(\mu ,{\tau }^2)$
• Усередині майданчика: ${\bar{x}}_i\mid {\theta }_i\sim N\left({\theta }_i,\frac{{\sigma }^2}{n}\right)$
• Спільний шар дає короткому запису позичати

Формула: Часткове об’єднання

$E[{\theta }_i\mid {\bar{x}}_i]=(1-B){\bar{x}}_i+B\mu$

Оцінка зсувається від власного середнього майданчика до μ на коефіцієнт стягування B.

Формула: Коефіцієнт стягування

$B=\frac{\frac{{\sigma }^2}{n}}{\frac{{\sigma }^2}{n}+{\tau }^2}$

Шум середнього майданчика, поділений на шум плюс справжній розкид. Шумне середнє дає B біля 1.

Приклад: Майданчик K після 3 днів

Нехай $\mu =2$, ${\tau }^2=4$, ${\sigma }^2=36$. Майданчик K має $n=3$ і середнє $14$. Оцініть його перевагу.

1. Шум середнього: $\frac{36}{3}=12$
2. $B=\frac{12}{12+4}=\frac{3}{4}$
3. $\frac{1}{4}\times 14+\frac{3}{4}\times 2=5$

Швидка перевірка: Майданчик L після 36 днів

Та сама сукупність. Майданчик L має $n=36$ і теж середнє $14$. Яка його оцінка?

Ідея: Чи це допомагає?

Сире середнє майданчика K має квадратичну похибку $12$. Стягнута оцінка має $12\times \frac{4}{12+4}=3$.

• Невеликий зсув до $\mu$ дає великий виграш у дисперсії

Типова помилка: Стягування як знижка

Оцінки рухаються до $\mu$, а не до нуля, тож погані записи теж покращуються.

Натомість Майданчик із $-10$ після $3$ днів піднімається до $\frac{1}{4}\times (-10)+\frac{3}{4}\times 2=-1$.

Ідея: Звідки береться верхній рівень

За однакового $n$ розкид середніх оцінює ${\tau }^2+\frac{{\sigma }^2}{n}$.

• Розкид $10$, $n=9$, ${\sigma }^2=36$: $10-\frac{36}{9}=6$
• Від’ємне? Покладіть ${\tau }^2$ нулем і об’єднуйте повністю
• Груп мало: дайте апріорні розподіли й для $\mu$ і ${\tau }^2$

Ідея: Новини проходять через верхній рівень

Вдала серія одного сигналу підвищує шанс сприятливого режиму, а з ним і оцінку іншого сигналу.

• Навіть сигналу, який ще не торгував
• Дані піднялися на верхній рівень і спустилися назад