Лабораторна робота № 

1. Проаналізувати співвідношення між різними одиницями величини

інформації: ; ; .
побудувати графіки ;
на основі співвідношення встановити коефіцієнти
переходу бітами, натами та дітами.
2. Наведіть приклади (з власного досвіду, літератури тощо) які вказують на
залежність кількості інформації від імовірності отримання певного
повідомлення.
3. Встановити взаємозв’язок між мірами інформації Хартлі та Шеннона.
Наведіть інші міри величини інформації.
4. Позиційні та непозиційні системи числення. Наведіть приклади. Двійкова
(binary), вісімкова (octal) та шіснадцяткова ( hexadecimal) системи числення,
зв'язок між ними. Записати довільне число у цих системах. Обґрунтуйте
використання двійкової системи для опису інформаційних процесів та
систем.
5. Встановити інформативну ємність різних систем числення.
Вказівка. Якщо за основу системи числення взяти число x, то у системі із n
чисел отримуємо розрядів. Число цифр, які при цьому можна буде

записати рівне .

Функція описує інформативну місткість системи числення x. Для

встановлення інформативної ємності треба знайти максимум функції :

(1)

Завдання.
1
а) побудувати графіки функції для різних значень n: (n = 2, 3, 5, 7…).
б) Довести співвідношення (1).
Вказівка. Спочатку прологарифмуємо функцію :

потім ; ; .

6. Порахувати інформацію, що переноситься однією буквою українського

алфавіту у випадку рівномірної (1/32) та нерівномірної (таблиця) їхньої
появи. Пояснити отримані результати.

Частоти літер та пропусків в українській мові

SPACE 0.134 є 0.043 л 0.028 ч 0.011 ї 0.006
о 0.082 р 0.038 у 0.027 б 0.010 є 0.006
н 0.070 і 0.037 п 0.025 х 0.010 ф 0.005
а 0.070 с 0.036 я 0.021 ц 0.009 ш 0.005
и 0.056 к 0.036 з 0.019 ю 0.009 щ 0.003
т 0.051 м 0.033 ь 0.015 х 0.008 ґ 0.000
в 0.046 д 0.028 г 0.013 й 0.007

7. Оцінити зменшення ентропії при отриманні інформації, яка міститься у

книзі об'ємом 25 авторських сторінок (1 а.с. містить 40000 знаків). Пояснити
отриманий результат.

2
8. Встановити енергетичний еквівалент одного біта інформації. Принцип
Ландауера. Навести приклади, які ілюструють різну енергетичну ціну біта
інформації.

9. Теорема Гудстейна. Пояснимо суть теореми на прикладі. Розглянемо

довільне число, наприклад, 581, і розкладемо його сумою різних степенів
числа 2:
.
Числа 9 та 6, які фігурують у розкладі, також виразимо степенями числа 2:

але оскільки , то остаточно число 581 запишеться у

виді:

.
Будемо змінювати отримане число згідно алгоритму:
дія 1 – збільшуємо основу, тобто число 2, на одиницю;
дія 2 - віднімаємо від отриманого нового числа одиницю.

Наприклад, при застосуванні дії 1 отримаємо число ,

а після виконання дії 2 – .

Далі будемо мати такі числа:
,

.
Описану процедуру будемо проводити велике число раз.
Суть теореми полягає у тому, який результат отримається при
багатократному виконанні алгоритму.

Вказівка. Для доведення теореми Гудстейна скористайтеся методом

математичної індукції.