Формула Хартлі та її застосування.

Формула Хартлі або міра Хартлі - логарифмічна міра інформації, яка визначає кількість інформації, що міститься в повідомленні.

 

Де N - кількість символів в використовуваному алфавіті (потужність алфавіту), K - довжина повідомлення (кількість символів в повідомленні), I - кількість інформації в повідомленні в бітах.

Формула була запропонована Ральфом Хартлі в 1928 році, як один з наукових підходів до оцінки повідомлень.

Для випадку визначення кількості інформації i в одному символі алфавіту потужності N, формула Хартлі приймає вид:

Відповідно, потужність алфавіту дорівнює:

Приклад.
Повідомлення, записане літерами з 16 символьного алфавіту, містить 10 символів. Який обсяг інформації в бітах воно несе?

Рішення

1. 16 = 2^4, значить вага одного символу b = 4 біта.

2. Всього символів 10, значить обсяг інформації 10 * 4 = 40 біт.

Заідання 1. 

Алфавіт містить 32 літери. Яка кількість інформації несе одна буква?

Завдання 2.

Інформаційне повідомлення об'ємом 300 біт містить 100 символів. Яка потужність алфавіту?

Завдання 3.

Скільки символів містить повідомлення, записане за допомогою 8 символьного алфавіту, якщо об'єм його склав 120 біт?