Топ питань
Часова шкала
Чат
Перспективи

Середнє степеневе зважене

різновид середнього значення З Вікіпедії, вільної енциклопедії

Remove ads

Середнє степеневе зважене — різновид середнього значення. Для набору додатних дійсних чисел з параметром і невід'ємними вагами визначається як

.

Якщо ваги нормовані до одиниці (тобто їх сума дорівнює одиниці), то вираз для середнього степеневого зваженого набуває вигляду

.
Remove ads

Властивості

Remove ads

Зв'язок з ентропією Реньї

Узагальнити
Перспектива

Інформаційну ентропію деякої системи можна визначити як логарифм числа доступних станів системи (або їх ефективної кількості, якщо стани не рівноймовірні). Врахуємо, що ймовірності перебування системи в стані з номером () нормовані до . Якщо стани системи рівноймовірні і мають імовірність , то . У разі різних імовірностей станів визначимо ефективну кількість станів як середнє степеневе зважене величин з вагами і параметром (де ):

.

Звідси отримуємо вираз для ентропії

,

збігається з виразом для ентропії Реньї[1]. Легко бачити, що в границі при (або ) ентропія Реньї збігається до ентропії Шеннона (при тому, що середнє степеневе зважене — до середнього геометричного зваженого). За визначенням ентропії Реньї має виконуватися додаткове обмеження (або ).

Remove ads

Примітки

Література

Loading related searches...

Wikiwand - on

Seamless Wikipedia browsing. On steroids.

Remove ads