Кодуванняпо відомлень Урок 2. Об'єкти та інформаційні системи
Інформація як наукове поняття
Науки про інформацію як такої тривалий час не існувало.
Пояснюється це тим, що поняття «інформація» до середини XX століття тлумачили лише так, як описано в підрозділі «Інформація в житті людини».
Основна увага приділялася суб'єктивним оцінкам інформації, які дозволяють вважати одне й те саме повідомлення інформативним або ні залежно від того, хто його сприймає.
Звісно, такий підхід не можна розглядати як науковий, адже кожна наука прагне встановити певні незаперечні факти, які б усі розуміли однаково.
Лише в 1940-х роках американський математик Клод Шеннон створив теорію, що абстрагована від суб'єктивного значення інформації.
Одним із головних результатів застосування теорії Шеннона є створення об'єктивних критеріїв для оцінювання обсягу інформації. Вчений помітив, що обсяг інформації в повідомленні фіксованої довжини тим менший, чим більшою є надлишковість повідомлення.
Надлишковість повідомлення — величина, що показує, у скільки разів може бути коротшим повідомлення, у якому закодовано ту саму інформацію.
Наприклад, інформацію повідомлення, що складається з 1000 літер «а», можна закодувати значно стисліше, а саме записати літеру «а» та кількість її повторів — число 1000. Тому повідомлення з 1000 однакових літер є вкрай надлишковим і малоінформативним.
Клод Шеннон запропонував формулу для визначення міри надлишковості повідомлень того чи іншого типу. Застосовуючи цю формулу, вдалося, зокрема, з'ясувати, що надлишковість більшості людських мов перевищує 50 %. Це означає, що інформацію, яка передається в певному тексті, завжди можна передати текстом, що є принаймні вдвічі коротшим.
