МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ

НАЦІОНАЛЬНИЙ УНІВЕРСИТЕТ "ЛЬВІВСЬКА ПОЛІТЕХНІКА"

Кафедра інформаційних систем та мереж

Лабораторна робота №3
на тему
ЕЛЕМЕНТИ ТЕОРІЇ ІНФОРМАЦІЇ В
ЛІНГВІСТИЦІ

Виконала студентка
групи ФЛ – 43
Костенко К. П.

Прийняла
Веретеннікова Н. В.

Львів – 2019
Мета роботи: допомогти знайти практичне застосування основних положень
теорії інформації, навчити визначати інформаційні втрати в каналах зв’язку із
завадами, будувати оптимальні коди, знаходити та виправляти помилки при
різних методах передачі та опрацювання інформації, представляти коди в
пам’яті машини в стисненому вигляді та у вигляді різних структур.
Теоретична частина
Важливою характеристикою інформації є її адекватність, тобто певний
рівень відповідності створюваного за допомогою отриманої інформації
образу реальному об'єкту, процесу, явищу і т. п. Адекватність інформації
може виражатися в трьох формах: прагматичній, семантичній та
синтаксичній.
Прагматична (споживацька) адекватність відображає відповідність
інформації меті управління, яка на її основі реалізується. Ця форма
адекватності безпосередньо пов'язана з практичним використанням
інформації.
Семантична (смислова) адекватність визначає ступінь відповідності
образу об'єкту і самого об'єкту. Семантичний аспект припускає облік
смислового змісту інформації На цьому рівні аналізуються ті відомості, які
відображає інформація, розглядаються смислові зв'язки.
Синтаксична адекватність відображає формально-структурні
характеристики інформації і не зачіпає її смислового змісту. На
синтаксичному рівні враховуються тип носія і спосіб передачі інформації,
швидкість передачі і обробки, розміри кодів представлення інформації,
надійність і точність перетворення цих кодів і т. п. Ця форма сприяє
сприйняттю структурних зовнішніх характеристик, тобто синтаксичної
сторони інформації.
Кількісні виміри інформації можна здійснити, спираючись на два
початкових поняття – ймовірності випадкової лінгвістичної події і
невизначеності, яка є перед виконанням експерименту, результатом якого є
вказана подія.
Кожний лінгвістичний експеримент (дослід) має деяку невизначеність
результату. Якщо наш дослід полягає в послідовному вгадуванні букв
невідомого слова, то вгадування кожної букви від початку слова має свою
невизначеність. Що більше альтернатив при виборі можливого результату
експерименту, то більша його невизначеність; що менше таких альтернатив,
то менша невизначеність у результаті досліду.
 Практична частина
Варіант №11
Перший рівень
Завдання №1. Скільки слів з 5 букв, які починаються з тих же трьох
букв, що і прізвище студента, можна утворити в українському алфавіті?
Використовуючи словник, вияснити, скільки з них допущені нормами
української мови. Використати результати розв’язування задачі для оцінки
величини структурних обмежень (у бітах), які накладаються нормами
української мови на ланцюжки з 5 букв, що починаються з послідовності
ТриграмаПрізвищаСтудента (Кос).
Розв’язання:
Усього можна утворити слів довжиною у 5 символів, які починаються
~
на КОС дорівнює: A 233 =332=1089 слів
Допущені нормами української мови: 5 слів
~
I 0=log 2 A 51089 =log 2 1089=10,089 біт

Завдання №2. На основі словника обчислити відносні частоти появи

букв a, e, i, o, u, y після ланцюжка ∆ KOS в англійській мові. Обчислити
~~~~~~
величини інформації I a, I e, I i, I o, I u, I y, I a , I e, I i , I o , I u , I y .
Розв’язання:

Завдання №3. Обчислити величину інформації, яка одержується від

досліду з шістьма рівноймовірними результатами. Порівняти отримане
значення I o із I, обчисленим у попередній задачі. Зробити висновок.
Розв’язання:
Завдання №4. Символи алфавіту володіють стількома якісними
ознаками, скільки букв міститься в прізвищі студента.

a) Яку кількість повідомлень можна отримати, комбінуючи по 3, 4,

5 та 6 елементів в повідомлені?
 b) Яка кількість інформації приходиться на один елемент таких
повідомлень?

Другий рівень

Визначити, в якому текстів а-г кількість інформації більша. Чому в тому чи

іншому з приведених текстів інформації більша чи менша?

a) “Ра, ра, ра, ра, ра, ра, ра”.

b) “Виконуй правила техніки безпеки! Не стій під краном! Не смітити!”
c) “Захід... Схід... Південь... Сходить та заходить сонце...”

Розв’язання:

a) k= 13

Кількість інформації:

Для рівноймовірного алфавіту:

H 1=log 2 33=5 біт/сим.

I 1=k* H 1=13*5=65 біт.

Для нерівноймовірного алфавіту:

33
H 2=-∑ log 2 pi =-( pa log 2 p a+ pб log 2 pб +…+ p я log 2 p я )=4,36 біт/сим.
i=1

I 2=k* H 2=13*4,36 =56,68 біт.

b) k=61

Кількість інформації:

Для рівноймовірного алфавіту:

H 1=log 2 33=5 біт/сим.

I 1=k* H 1=61*5=305 біт.

Для нерівноймовірного алфавіту:

 33
H 2=-∑ log 2 pi =-( pa log 2 p a+ pб log 2 pб +…+ p я log 2 p я )=4,36 біт/сим.
i=1

I 2=k* H 2=61*4,36 =265,96 біт.

c) k =44

Кількість інформації:

Для рівноймовірного алфавіту:

H 1=log 2 33=5 біт/сим.

I 1=k* H 1=44*5=220 біт.

Для нерівноймовірного алфавіту:

33
H 2=-∑ log 2 pi =-( pa log 2 p a+ pб log 2 pб +…+ p я log 2 p я )=4,36 біт/сим.
i=1

I 2=k* H 2=44*4,36 =191,84 біт.

Найбільша кількість інформації знаходиться у другому тексті.

 Висновки
На даній лабораторній роботі ми навчилися знаходити практичне
застосування основних положень теорії інформації, визначати інформаційні
втрати в каналах зв’язку із завадами, будувати оптимальні коди, знаходити та
виправляти помилки при різних методах передачі та опрацювання
інформації, представляти коди в пам’яті машини в стисненому вигляді та у
вигляді різних структур.