↑ Вверх ↓ Вниз

Для оценки согласованности мнений экспертов (в случае, когда их больше 2) используется (ответ на вопрос)

ДЛЯ ОЦЕНКИ СОГЛАСОВАННОСТИ МНЕНИЙ ЭКСПЕРТОВ (В СЛУЧАЕ, КОГДА ИХ БОЛЬШЕ 2) ИСПОЛЬЗУЕТСЯ
1) коэффициент ранговой корреляции Спирмена
2) коэффициент конкордации (+)
3) Критерий Фишера
4) Т-критерий Стьюдента

Для оценки согласованности мнений более чем двух экспертов применяется коэффициент конкордации Кендалла (W). Он используется при ранжировании нескольких объектов: каждый эксперт присваивает им ранги, после чего анализируется, насколько близки суммарные ранги и порядок предпочтений у всей группы. Значение W находится в диапазоне от 0 до 1: нулевое значение соответствует отсутствию согласованности, а единица — полному совпадению ранжировок.

Математически коэффициент основан на оценке отклонения сумм рангов по каждому объекту от их среднего значения с последующей нормировкой на максимально возможную вариабельность. При совпадении рангов используют поправку на связанные ранги. Статистическую значимость согласованности обычно проверяют с помощью критерия χ² с числом степеней свободы, равным числу оцениваемых объектов минус единица; это позволяет отличить случайное совпадение мнений от устойчивого экспертного консенсуса.

Коэффициент Спирмена предназначен прежде всего для оценки связи между двумя ранжированными рядами, поэтому он не является основным показателем групповой согласованности при числе экспертов более двух. Критерии Фишера и Стьюдента решают другие задачи: сравнивают дисперсии, частоты или средние значения и непосредственно не характеризуют совпадение экспертных ранжировок. Следовательно, правильным показателем в данной ситуации является коэффициент конкордации.

МетодТип данныхОсновная задачаИнтерпретация результата
Коэффициент конкордации Кендалла WРанги нескольких объектов, выставленные несколькими экспертамиОценка общей согласованности группы экспертовОт 0 до 1; чем выше W, тем более согласованы ранжировки
Коэффициент ранговой корреляции СпирменаДва ранговых рядаОценка монотонной связи между двумя оценщиками или переменнымиОт −1 до +1; отражает направление и тесноту связи, а не групповую конкордацию
Критерий ФишераКоличественные данные или таблицы сопряжённости — в зависимости от разновидности критерияСравнение дисперсий, анализ вариации либо оценка различий частот при малых выборкахНе предназначен для измерения согласованности экспертных рангов
t-критерий СтьюдентаКоличественные показатели, обычно близкие к нормальному распределениюСравнение средних значений в одной или двух группахОценивает различия средних, но не степень совпадения экспертных мнений
Внутриклассовый коэффициент корреляции (ICC)Количественные измерения одного объекта несколькими оценщикамиОценка воспроизводимости и абсолютного согласия измеренийПодходит для непрерывных величин; выбирается с учётом модели ICC и дизайна исследования
Коэффициент каппаКатегориальные заключения нескольких оценщиковОценка согласия при классификации с поправкой на случайное совпадениеПрименяется для номинальных или порядковых категорий, а не для полного набора рангов

В медицинской кибернетике W применяют при формировании экспертных шкал, выборе приоритетных диагностических признаков и оценке согласия при разработке клинических рекомендаций. Перед расчётом необходимо определить, действительно ли эксперты ранжируют одни и те же объекты по единой шкале. Высокий коэффициент W не доказывает правильность экспертного решения, а указывает только на его согласованность. Поэтому итоговую оценку дополняют проверкой статистической значимости, анализом качества критериев и содержательной экспертизой.

Поделитесь с коллегами ссылкой на наш сайт