Roc-кривая и матрица путаницы как эффективное средство для оптимизации классификаторов машинного обучения

Authors

  • Владимир Михайлович Горяев Калмыцкий государственный университет им. Б. Б. Городовикова
  • Владимир Данзанович Бурлыков Калмыцкий государственный университет им. Б. Б. Городовикова
  • Сергей Николаевич Прошкин Калмыцкий государственный университет им. Б. Б. Городовикова
  • Владимир Викторович Лиджи-Горяев Калмыцкий государственный университет им. Б. Б. Городовикова
  • Елена Николаевна Джахнаева Калмыцкий государственный университет им. Б. Б. Городовикова

Keywords:

машинное обучение, классификаторы, метод ближайших соседей, логическая регрессия, кривая ROC, матрица путаницы

Abstract

Модель классификации машинного обучения может использоваться для прямого прогнозирования фактического класса точки данных или прогнозирования вероятности ее принадлежности к разным классам. Вероятность дает нам больше контроля над результатом. Можно определить свой собственный порог для интерпретации результата классификатора, что, как правило, лучше, чем просто создание совершенно новой модели. Установка различных пороговых значений для классификации положительных классов для точек данных непреднамеренно изменяет чувствительность и специфичность модели, а один из этих порогов, вероятно, и даст лучший результат. Для определения оптимального порога генерируются графики с некоторыми параметрами модели. Важным инструментом для процесса оптимизации классификации являются метрики оценки. Параметры кривой характеристики оператора приемника (ROC) являются метрикой оценки для такого рода задач. Для понимания такого графика генерируют матрицу путаницы (ошибок) для каждой точки, соответствующей порогу, что позволяет рассуждать о производительности классификатора. Для данного исследования было использовано подмножество набора данных Lending Club. Выполнена оценка прогноза, где точность модели составила 96%, отзыв составил 92%, а показатель f1 был равен 94%. Алгоритм KNN показал результат лучше, чем регрессия, с показателем AUC 0.93 и коэффициентом Gini=1.

Published

2023-17-05

Issue

Section

Статьи