2) объем оперативной памяти
3) достоверность информации
4) мера уменьшения неопределенности (+)
В теории информации количество информации выражает степень уменьшения неопределённости относительно некоторого события или состояния системы. Если до получения сообщения возможны несколько исходов, их неопределённость описывается энтропией Шеннона: H = −Σpilog2pi. Полученное сообщение изменяет распределение вероятностей, а объём информации определяется разностью между исходной и оставшейся неопределённостью: ΔH = Hдо − Hпосле. Единицей измерения служит бит.
Для отдельного события информационное содержание рассчитывают как I = −log2p: чем менее вероятен исход, тем больше информации он несёт. В медицинской кибернетике этот принцип лежит в основе оценки диагностической информативности симптомов, лабораторных показателей и результатов инструментальных исследований. Тест особенно полезен, если его результат существенно изменяет априорную вероятность заболевания и уменьшает диагностическую неопределённость; такой подход связан с байесовским обновлением вероятностей и понятием взаимной информации.
Скорость передачи данных характеризует производительность канала и измеряется, например, в битах в секунду, а объём памяти — ёмкость хранения данных, обычно в байтах. Достоверность отражает соответствие информации действительности или вероятность правильного результата и не является её количественной мерой. Поэтому именно уменьшение неопределённости, а не технические характеристики хранения или передачи, является содержательной основой определения количества информации.
| Понятие | Содержание | Единица или критерий | Пример в медицинской кибернетике |
|---|---|---|---|
| Энтропия | Исходная неопределённость состояния системы или диагноза | Биты; зависит от вероятностей возможных исходов | Неопределённость при дифференциальной диагностике нескольких заболеваний |
| Информация события | Количество сведений, полученных при наступлении конкретного исхода | I = −log2p | Редкий, но специфичный симптом несёт больше информации, чем частый неспецифичный признак |
| Информационный выигрыш | Уменьшение неопределённости после наблюдения или измерения | ΔH = Hдо − Hпосле | Изменение вероятности диагноза после результата теста |
| Взаимная информация | Степень зависимости между признаком и исследуемым состоянием | Чем выше значение, тем информативнее признак для классификации | Связь лабораторного маркера с наличием определённого заболевания |
| Скорость передачи | Количество данных, передаваемых за единицу времени | Бит/с, Мбит/с | Передача медицинского изображения по телемедицинскому каналу |
| Ёмкость хранения | Максимальный объём данных, который может сохранять носитель или память | Байт, килобайт, гигабайт | Размер архива электронной истории болезни |
| Достоверность | Степень соответствия сообщения реальному состоянию объекта | Вероятность правильности, чувствительность, специфичность и другие показатели качества | Надёжность результата диагностической системы или измерительного прибора |
Диагностическое наблюдение не всегда увеличивает объём полезной информации: если результат заранее ожидаем или не меняет вероятности диагнозов, его информационный выигрыш близок к нулю. Наибольшую ценность имеют данные, способные перераспределить вероятности между альтернативными состояниями пациента. В экспертных системах и алгоритмах машинного обучения уменьшение энтропии используется для выбора информативных признаков и построения классификационных решений. Таким образом, информационная ценность медицинского сообщения определяется не его размером, а тем, насколько оно уточняет состояние объекта.