Содержательный подход к измерению информации
Человек получает информацию из окружающего мира, анализирует её и выявляет существенные закономерности с помощью мышления, хранит информацию в памяти – это приводит к накоплению информации в форме знаний.
Процесс познания можно наглядно изобразить в виде расширяющегося круга знаний.Длина окружности является мерой незнания.
Я ЗНАЮ, ЧТО НИЧЕГО НЕ ЗНАЮ СократЧем большим объёмом знаний обладает человек, тем больше он ощущает недостаток знаний.
Для количественного выражения любой величины необходимо определить единицу измерения.Минимальной единицей измерения количества информации является бит.1 байт = 8 бит1 Кб = 1024 байта1 Мб = 1024 Кбайта1 Гб = 1024 Мбайта
Существует два подходак измерению информации(количество информации, заключенное в сообщении, связано с тем, насколько это сообщение уменьшает неопределённость знаний принимающего его человека)(количество информации зависит от объёма текста, то есть от числа знаков в тексте, и от мощности алфавита)
Сообщение несёт информацию для человека, если содержащиеся в нём сведения являются для него новыми и понятными.Неопределённость знания о результате некоторого события – это число возможных вариантов результата.Например: подбрасывание монеты (неопределённость знания равно 2, т.к. две стороны у монеты) события, которые могут произойти равновероятны.
События равновероятны, если ни одно из них не изменяет преимущества перед другим.Сообщение, уменьшающее неопределенность знания в два раза, несёт 1 бит информации.N – число вариантов равновероятных событий;i – количество информации в сообщении о том, что произошло одно событие из числа равновероятных.