Многоклассовая классификация

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
 
(9 промежуточных версий не показаны.)
Строка 1: Строка 1:
-
```wiki
+
{{well|Статья написана с использованием LLM '''ChatGPT 5.5''' и проверена участником [[Liliia Davletova]]}}
 +
 
= Многоклассовая классификация =
= Многоклассовая классификация =
-
Многоклассовая классификация — это задача машинного обучения, в которой модель должна отнести каждый объект к одному из трёх или более взаимоисключающих классов. В отличие от [[бинарная классификация|бинарной классификации]], где есть только два возможных исхода (например, «спам» или «не спам»), в многоклассовой постановке пространство меток содержит $K > 2$ категорий.
+
'''Многоклассовая классификация''' — задача [[машинное обучение|машинного обучения]], в которой требуется отнести каждый объект к одному из трёх и более взаимоисключающих [[класс (машинное обучение)|классов]] на основании наблюдаемых [[признак (машинное обучение)|признаков]]. Является одним из фундаментальных разделов [[обучение с учителем|обучения с учителем]] и применяется в [[компьютерное зрение|компьютерном зрении]], [[обработка естественного языка|обработке естественного языка]], [[биоинформатика|биоинформатике]], медицинской диагностике, рекомендательных системах и других областях.
 +
 
 +
В отличие от [[бинарная классификация|бинарной классификации]], где возможны только два класса, при многоклассовой классификации алгоритм выбирает один класс из множества возможных. Примерами являются распознавание рукописных цифр (10 классов), классификация видов растений, определение языка текста или диагностика заболевания по нескольким категориям.
== Постановка задачи ==
== Постановка задачи ==
-
Пусть имеется обучающая выборка $\{(x_i, y_i)\}_{i=1}^N$, где $x_i \in \mathcal{X}$ — признаковое описание объекта (вектор признаков), а $y_i \in \{1, 2, \dots, K\}$ — метка класса. Цель алгоритма многоклассовой классификации — построить отображение $f: \mathcal{X} \to \{1,\dots,K\}$, минимизирующее ошибку на новых данных. Часто модель предсказывает не просто класс, а вектор вероятностей принадлежности к каждому классу: $p(y=k|x)$ для $k=1,\dots,K$.
 
-
<tex>
+
Пусть задано множество объектов
-
\sum_{k=1}^{K} p(y=k|x) = 1, \quad p(y=k|x) \geq 0.
+
 
-
</tex>
+
:<tex>\mathcal{D} = {(x_i, y_i)}_{i=1}^{N},</tex>
 +
 
 +
где <tex>x_i \in \mathbb{R}^{d}</tex> — вектор признаков, а
 +
 
 +
:<tex>y_i \in {1,\ldots,K}</tex>
 +
 
 +
— номер одного из <tex>K</tex> классов.
 +
 
 +
Требуется построить функцию
 +
 
 +
:<tex>f : X \rightarrow {1,\ldots,K},</tex>
 +
 
 +
которая минимизирует вероятность ошибки на новых данных.
 +
 
 +
Во многих современных алгоритмах модель оценивает вероятности принадлежности объекта каждому классу
 +
 
 +
:<tex>P(y=k\mid x),</tex>
 +
 
 +
после чего выбирается класс с максимальной вероятностью:
 +
 
 +
:<tex>\hat y=\arg\max_k P(y=k|x).</tex>
 +
 
 +
== История ==
 +
 
 +
Первые методы многоклассовой классификации появились в статистической теории распознавания образов в середине XX века. Существенный вклад внесли работы по [[линейный дискриминантный анализ|линейному дискриминантному анализу]], [[логистическая регрессия|логистической регрессии]] и [[байесовский классификатор|байесовским классификаторам]].
 +
 
 +
В 1990-х годах широкое распространение получили методы, основанные на [[метод опорных векторов|методе опорных векторов]], для которых были предложены схемы сведения многоклассовой задачи к нескольким бинарным задачам.
 +
 
 +
С начала 2010-х годов доминирующими стали методы [[глубокое обучение|глубокого обучения]], использующие многослойные [[искусственная нейронная сеть|нейронные сети]] и функцию потерь [[Softmax|Softmax]] с [[кросс-энтропия|кросс-энтропией]].
== Основные подходы ==
== Основные подходы ==
-
=== One-vs-Rest (OvR) ===
+
=== Прямые многоклассовые модели ===
-
Подход «один против всех» сводит многоклассовую задачу к $K$ бинарным подзадачам: для каждого класса $k$ строится классификатор, который отделяет объекты класса $k$ от всех остальных. Итоговый прогноз — класс с наибольшей оценкой (или вероятностью).
+
-
*Плюсы:* простота, масштабируемость, возможность использовать любые бинарные алгоритмы.
+
Некоторые алгоритмы непосредственно оптимизируют многоклассовую постановку:
-
*Минусы:* классы могут быть несбалансированы; решения не всегда согласованы.
+
-
=== One-vs-One (OvO) ===
+
* [[логистическая регрессия|многономиальная логистическая регрессия]];
-
Для каждой пары классов $(i, j)$ обучается отдельный бинарный классификатор. Всего получается $\binom{K}{2}$ моделей. При предсказании применяется голосование: объект относят к классу, который победил в наибольшем числе парных сравнений.
+
* [[дерево решений|деревья решений]];
 +
* [[случайный лес]];
 +
* [[градиентный бустинг]];
 +
* [[искусственная нейронная сеть|нейронные сети]];
 +
* [[наивный байесовский классификатор]].
-
*Плюсы:* каждый классификатор обучается на сбалансированной выборке (только два класса).
+
В нейронных сетях обычно используется последний слой Softmax, который преобразует выходы модели в вероятностное распределение по классам.
-
*Минусы:* квадратичный рост числа моделей при увеличении $K$, что может быть затратно.
+
-
=== Прямые многоклассовые методы ===
+
=== Сведение к бинарной классификации ===
-
Некоторые алгоритмы изначально поддерживают многоклассовую постановку без редукции к бинарным задачам:
+
-
- [[деревья решений|деревья решений]] и ансамбли на их основе (например, [[random forest|случайный лес]], [[gradient boosting|градиентный бустинг]]) — естественным образом обобщаются на $K$ классов.
+
-
- [[нейронные сети|нейронные сети]] с выходным слоем из $K$ нейронов и функцией активации [[softmax|softmax]].
+
-
- [[метод опорных векторов|методы опорных векторов]] в многоклассовых формулировках.
+
-
== Функции потерь и метрики ==
+
Для алгоритмов, ориентированных на бинарные задачи, применяются специальные схемы.
-
Для обучения моделей часто используют:
+
==== One-vs-Rest ====
-
- **Категориальную кросс-энтропию** (categorical cross-entropy) — стандартная функция потерь для вероятностных моделей:
+
-
<tex>
+
-
L = -\frac{1}{N}\sum_{i=1}^{N} \sum_{k=1}^{K} \mathbb{1}[y_i = k] \log p(y_i=k|x_i).
+
-
</tex>
+
-
- **Мультиклассовый hinge loss** — обобщение hinge loss для SVM.
+
-
Распространённые метрики качества:
+
Каждый классификатор обучается отличать один класс от всех остальных.
-
- [[accuracy|точность (accuracy)]] — доля правильно классифицированных объектов.
+
-
- [[precision, recall, F1|макро- и микро-усреднённые precision, recall, F1]] — особенно важны при дисбалансе классов.
+
-
- Матрица ошибок (confusion matrix) — позволяет детально анализировать ошибки между конкретными классами.
+
-
== Практические аспекты и сложности ==
+
Преимущества:
-
- **Дисбаланс классов.** Если некоторые классы представлены слабо, модель может игнорировать их. Применяют перевзвешивание классов, oversampling/undersampling, специальные функции потерь.
+
* простота реализации;
-
- **Интерпретируемость.** В сложных моделях (например, глубоких сетях) бывает трудно понять, почему объект отнесён к конкретному классу. Для этого используют методы объяснимого ИИ (XAI): [[SHAP]], [[LIME]] и др.
+
* небольшое число моделей (<tex>K</tex>).
-
- **Масштабируемость.** При большом числе классов ($K \gg 1000$) классические подходы становятся неэффективными. В таких случаях применяют иерархическую классификацию, методы с отрицательной выборкой, специализированные архитектуры.
+
-
== Примеры и области применения ==
+
Недостатки:
-
- Распознавание изображений: классификация фото по десяткам и сотням категорий (например, ImageNet).
+
* возможен сильный дисбаланс классов;
-
- Обработка естественного языка: определение темы текста, языка документа, тональности по нескольким градациям.
+
* вероятности различных моделей плохо согласованы между собой.
-
- Медицинская диагностика: выбор из нескольких возможных заболеваний на основе симптомов и анализов.
+
-
== Современные тенденции и научные результаты ==
+
==== One-vs-One ====
-
В последние годы активно развиваются методы, учитывающие структуру пространства классов (например, семантические связи между категориями) и эффективные способы работы с большим числом классов. Среди актуальных направлений:
+
Строится отдельный классификатор для каждой пары классов.
-
- Использование предобученных моделей (transfer learning) для быстрой адаптации к новым наборам классов.
+
-
- Методы с иерархической структурой классов, где предсказание происходит поэтапно.
+
-
- Техники смягчения проблемы дисбаланса: focal loss, re-weighting, mixup и др.
+
-
Классические и современные работы, на которые стоит обратить внимание:
+
Количество моделей составляет
-
- Bishop, C. M. (2006). *Pattern Recognition and Machine Learning*. Springer — фундаментальное изложение вероятностных подходов, включая многоклассовую классификацию.
+
-
- Hastie, T., Tibshirani, R., Friedman, J. (2009). *The Elements of Statistical Learning*. Springer — подробный разбор деревьев, ансамблей, SVM и других методов.
+
-
- Goodfellow, I., Bengio, Y., Courville, A. (2016). *Deep Learning*. MIT Press — главы о softmax, функциях потерь и нейронных сетях.
+
-
- Lin, T.-Y. et al. (2017). *Focal Loss for Dense Object Detection*. ICCV — про focal loss как способ борьбы с дисбалансом.
+
-
== Полезные ссылки и инструменты ==
+
:<tex>\frac{K(K-1)}{2}</tex>
-
- Документация [[scikit-learn]] — реализация OvR, OvO, логистической регрессии, деревьев и ансамблей.
+
 
-
- Фреймворки для глубокого обучения ([[PyTorch]], [[TensorFlow]]) — позволяют легко строить многоклассовые модели с softmax и кросс-энтропией.
+
Итоговое решение принимается голосованием либо агрегированием вероятностей.
 +
 
 +
==== Error-Correcting Output Codes ====
 +
 
 +
Метод использует кодирование классов длинными двоичными кодами, что позволяет повысить устойчивость к ошибкам отдельных бинарных классификаторов.
 +
 
 +
== Методы машинного обучения ==
 +
 
 +
=== Логистическая регрессия ===
 +
 
 +
Многономиальная логистическая регрессия моделирует вероятности всех классов одновременно посредством функции Softmax. Благодаря выпуклой оптимизации является одним из наиболее интерпретируемых методов.
 +
 
 +
=== Метод опорных векторов ===
 +
 
 +
Классический [[метод опорных векторов]] первоначально был разработан для бинарной классификации. Для многоклассовых задач обычно используются схемы One-vs-One, One-vs-Rest либо специализированные многоклассовые постановки.
 +
 
 +
=== Деревья решений ===
 +
 
 +
[[Дерево решений|Деревья решений]] разбивают пространство признаков на области, соответствующие различным классам. Они легко интерпретируются и способны учитывать нелинейные зависимости.
 +
 
 +
=== Ансамблевые методы ===
 +
 
 +
[[Случайный лес]] и [[градиентный бустинг]] являются одними из наиболее успешных классических алгоритмов. Они эффективно работают с табличными данными и устойчивы к шуму.
 +
 
 +
=== Глубокие нейронные сети ===
 +
 
 +
Современные [[искусственная нейронная сеть|нейронные сети]] являются стандартом де-факто для задач компьютерного зрения и обработки естественного языка. Архитектуры [[свёрточная нейронная сеть|CNN]], [[трансформер (машинное обучение)|Transformer]] и [[Vision Transformer]] позволяют классифицировать тысячи категорий с высокой точностью.
 +
 
 +
== Функции потерь ==
 +
 
 +
Наиболее распространённой является категориальная кросс-энтропия:
 +
 
 +
:<tex>L=-\sum_{k=1}^{K} y_k \log p_k.</tex>
 +
 
 +
Для несбалансированных данных применяются:
 +
 
 +
* [[Focal Loss]];
 +
* взвешенная кросс-энтропия;
 +
* Label Smoothing;
 +
* Balanced Softmax.
 +
 
 +
== Оценка качества ==
 +
 
 +
Для оценки качества многоклассовых моделей используются:
 +
 
 +
* [[accuracy]];
 +
* [[precision]];
 +
* [[recall]];
 +
* [[F-мера]];
 +
* [[матрица ошибок]];
 +
* Macro Average;
 +
* Micro Average;
 +
* Weighted Average;
 +
* Top-k Accuracy;
 +
* Log Loss.
 +
 
 +
При сильном дисбалансе классов точность (Accuracy) может быть недостаточно информативной, поэтому обычно дополнительно анализируются Precision, Recall и F-мера.
 +
 
 +
== Дисбаланс классов ==
 +
 
 +
Во многих практических задачах различные классы представлены неодинаково.
 +
 
 +
Для борьбы с дисбалансом применяются:
 +
 
 +
* повторная выборка данных;
 +
* генерация примеров ([[SMOTE]]);
 +
* взвешивание функции потерь;
 +
* Focal Loss;
 +
* ансамблевые методы.
 +
 
 +
== Современные исследования ==
 +
 
 +
В последние годы исследования сосредоточены на нескольких направлениях.
 +
 
 +
=== Большое число классов ===
 +
 
 +
В задачах поиска изображений и интернет-каталогов число классов может достигать миллионов. Для таких случаев разрабатываются иерархические Softmax, Approximate Nearest Neighbor и методы поиска по эмбеддингам.
 +
 
 +
=== Few-shot и Zero-shot классификация ===
 +
 
 +
Современные модели способны распознавать новые категории по небольшому числу примеров (Few-shot Learning) либо исключительно по текстовому описанию (Zero-shot Learning).
 +
 
 +
Наиболее известными моделями являются [[CLIP]] и последующие мультимодальные архитектуры.
 +
 
 +
=== Самообучение ===
 +
 
 +
Всё большую популярность приобретают методы [[самообучение|самообучения]], позволяющие предварительно обучать представления без разметки, после чего выполнять многоклассовую классификацию с небольшим количеством размеченных данных.
 +
 
 +
=== Калибровка вероятностей ===
 +
 
 +
Одной из актуальных задач является получение хорошо откалиброванных вероятностей. Наиболее распространены методы Temperature Scaling, Platt Scaling и Isotonic Regression.
 +
 
 +
== Области применения ==
 +
 
 +
Многоклассовая классификация используется в:
 +
 
 +
* [[компьютерное зрение|компьютерном зрении]];
 +
* [[обработка естественного языка|обработке естественного языка]];
 +
* [[медицинская диагностика|медицинской диагностике]];
 +
* [[биоинформатика|биоинформатике]];
 +
* анализе спутниковых изображений;
 +
* промышленном контроле качества;
 +
* рекомендательных системах;
 +
* робототехнике;
 +
* финансовом анализе;
 +
* обнаружении вредоносного программного обеспечения.
== См. также ==
== См. также ==
-
- [[бинарная классификация]]
+
 
-
- [[softmax]]
+
* [[Машинное обучение]]
-
- [[функция потерь]]
+
* [[Обучение с учителем]]
-
- [[ансамблевые методы]]
+
* [[Бинарная классификация]]
-
- [[объяснимый ИИ]]
+
* [[Логистическая регрессия]]
-
```
+
* [[Метод опорных векторов]]
 +
* [[Дерево решений]]
 +
* [[Случайный лес]]
 +
* [[Глубокое обучение]]
 +
* [[Кросс-энтропия]]
 +
* [[Матрица ошибок]]
 +
 
 +
== Примечания ==
 +
 
 +
{{примечания}}
 +
 
 +
== Литература ==
 +
 
 +
* {{статья
 +
| автор = Bishop C. M.
 +
| заглавие = Pattern Recognition and Machine Learning
 +
| язык = en
 +
| издательство = Springer
 +
| год = 2006
 +
}}
 +
 
 +
* {{книга
 +
| автор = Hastie T., Tibshirani R., Friedman J.
 +
| заглавие = The Elements of Statistical Learning
 +
| издание = 2-е
 +
| издательство = Springer
 +
| год = 2009
 +
| язык = en
 +
}}
 +
 
 +
* {{статья
 +
| автор = Rifkin R., Klautau A.
 +
| заглавие = In Defense of One-vs-All Classification
 +
| издание = Journal of Machine Learning Research
 +
| год = 2004
 +
| том = 5
 +
| страницы = 101–141
 +
}}
 +
 
 +
* {{статья
 +
| автор = Dietterich T., Bakiri G.
 +
| заглавие = Solving Multiclass Learning Problems via Error-Correcting Output Codes
 +
| издание = Journal of Artificial Intelligence Research
 +
| год = 1995
 +
| том = 2
 +
| страницы = 263–286
 +
}}
 +
 
 +
* {{статья
 +
| автор = Deng J., Dong W., Socher R., Li L.-J., Li K., Fei-Fei L.
 +
| заглавие = ImageNet: A Large-Scale Hierarchical Image Database
 +
| издание = CVPR
 +
| год = 2009
 +
}}
 +
 
 +
* {{статья
 +
| автор = He K., Zhang X., Ren S., Sun J.
 +
| заглавие = Deep Residual Learning for Image Recognition
 +
| издание = CVPR
 +
| год = 2016
 +
}}
 +
 
 +
* {{статья
 +
| автор = Radford A. и др.
 +
| заглавие = Learning Transferable Visual Models From Natural Language Supervision
 +
| издание = ICML
 +
| год = 2021
 +
}}
 +
 
 +
* {{статья
 +
| автор = Guo C., Pleiss G., Sun Y., Weinberger K.
 +
| заглавие = On Calibration of Modern Neural Networks
 +
| издание = ICML
 +
| год = 2017
 +
}}
 +
 
 +
* {{статья
 +
| автор = Lin T.-Y., Goyal P., Girshick R., He K., Dollár P.
 +
| заглавие = Focal Loss for Dense Object Detection
 +
| издание = ICCV
 +
| год = 2017
 +
}}
 +
 
 +
* {{cite web
 +
| url = https://scikit-learn.org/stable/modules/multiclass.html
 +
| title = Multiclass and Multioutput Algorithms
 +
| website = scikit-learn
 +
| language = en
 +
| access-date = 2026-06-30
 +
}}
 +
 
 +
* {{cite web
 +
| url = https://pytorch.org/docs/stable/generated/torch.nn.CrossEntropyLoss.html
 +
| title = CrossEntropyLoss
 +
| website = PyTorch Documentation
 +
| language = en
 +
| access-date = 2026-06-30
 +
}}
 +
 
 +
* {{cite web
 +
| url = https://keras.io/api/losses/probabilistic_losses/
 +
| title = Probabilistic Losses
 +
| website = Keras Documentation
 +
| language = en
 +
| access-date = 2026-06-30
 +
}}

Текущая версия

Статья написана с использованием LLM ChatGPT 5.5 и проверена участником Liliia Davletova


Содержание

Многоклассовая классификация

Многоклассовая классификация — задача машинного обучения, в которой требуется отнести каждый объект к одному из трёх и более взаимоисключающих классов на основании наблюдаемых признаков. Является одним из фундаментальных разделов обучения с учителем и применяется в компьютерном зрении, обработке естественного языка, биоинформатике, медицинской диагностике, рекомендательных системах и других областях.

В отличие от бинарной классификации, где возможны только два класса, при многоклассовой классификации алгоритм выбирает один класс из множества возможных. Примерами являются распознавание рукописных цифр (10 классов), классификация видов растений, определение языка текста или диагностика заболевания по нескольким категориям.

Постановка задачи

Пусть задано множество объектов

\mathcal{D} = {(x_i, y_i)}_{i=1}^{N},

где x_i \in \mathbb{R}^{d} — вектор признаков, а

y_i \in {1,\ldots,K}

— номер одного из K классов.

Требуется построить функцию

f : X \rightarrow {1,\ldots,K},

которая минимизирует вероятность ошибки на новых данных.

Во многих современных алгоритмах модель оценивает вероятности принадлежности объекта каждому классу

P(y=k\mid x),

после чего выбирается класс с максимальной вероятностью:

\hat y=\arg\max_k P(y=k|x).

История

Первые методы многоклассовой классификации появились в статистической теории распознавания образов в середине XX века. Существенный вклад внесли работы по линейному дискриминантному анализу, логистической регрессии и байесовским классификаторам.

В 1990-х годах широкое распространение получили методы, основанные на методе опорных векторов, для которых были предложены схемы сведения многоклассовой задачи к нескольким бинарным задачам.

С начала 2010-х годов доминирующими стали методы глубокого обучения, использующие многослойные нейронные сети и функцию потерь Softmax с кросс-энтропией.

Основные подходы

Прямые многоклассовые модели

Некоторые алгоритмы непосредственно оптимизируют многоклассовую постановку:

В нейронных сетях обычно используется последний слой Softmax, который преобразует выходы модели в вероятностное распределение по классам.

Сведение к бинарной классификации

Для алгоритмов, ориентированных на бинарные задачи, применяются специальные схемы.

One-vs-Rest

Каждый классификатор обучается отличать один класс от всех остальных.

Преимущества:

  • простота реализации;
  • небольшое число моделей (K).

Недостатки:

  • возможен сильный дисбаланс классов;
  • вероятности различных моделей плохо согласованы между собой.

One-vs-One

Строится отдельный классификатор для каждой пары классов.

Количество моделей составляет

\frac{K(K-1)}{2}

Итоговое решение принимается голосованием либо агрегированием вероятностей.

Error-Correcting Output Codes

Метод использует кодирование классов длинными двоичными кодами, что позволяет повысить устойчивость к ошибкам отдельных бинарных классификаторов.

Методы машинного обучения

Логистическая регрессия

Многономиальная логистическая регрессия моделирует вероятности всех классов одновременно посредством функции Softmax. Благодаря выпуклой оптимизации является одним из наиболее интерпретируемых методов.

Метод опорных векторов

Классический метод опорных векторов первоначально был разработан для бинарной классификации. Для многоклассовых задач обычно используются схемы One-vs-One, One-vs-Rest либо специализированные многоклассовые постановки.

Деревья решений

Деревья решений разбивают пространство признаков на области, соответствующие различным классам. Они легко интерпретируются и способны учитывать нелинейные зависимости.

Ансамблевые методы

Случайный лес и градиентный бустинг являются одними из наиболее успешных классических алгоритмов. Они эффективно работают с табличными данными и устойчивы к шуму.

Глубокие нейронные сети

Современные нейронные сети являются стандартом де-факто для задач компьютерного зрения и обработки естественного языка. Архитектуры CNN, Transformer и Vision Transformer позволяют классифицировать тысячи категорий с высокой точностью.

Функции потерь

Наиболее распространённой является категориальная кросс-энтропия:

L=-\sum_{k=1}^{K} y_k \log p_k.

Для несбалансированных данных применяются:

  • Focal Loss;
  • взвешенная кросс-энтропия;
  • Label Smoothing;
  • Balanced Softmax.

Оценка качества

Для оценки качества многоклассовых моделей используются:

При сильном дисбалансе классов точность (Accuracy) может быть недостаточно информативной, поэтому обычно дополнительно анализируются Precision, Recall и F-мера.

Дисбаланс классов

Во многих практических задачах различные классы представлены неодинаково.

Для борьбы с дисбалансом применяются:

  • повторная выборка данных;
  • генерация примеров (SMOTE);
  • взвешивание функции потерь;
  • Focal Loss;
  • ансамблевые методы.

Современные исследования

В последние годы исследования сосредоточены на нескольких направлениях.

Большое число классов

В задачах поиска изображений и интернет-каталогов число классов может достигать миллионов. Для таких случаев разрабатываются иерархические Softmax, Approximate Nearest Neighbor и методы поиска по эмбеддингам.

Few-shot и Zero-shot классификация

Современные модели способны распознавать новые категории по небольшому числу примеров (Few-shot Learning) либо исключительно по текстовому описанию (Zero-shot Learning).

Наиболее известными моделями являются CLIP и последующие мультимодальные архитектуры.

Самообучение

Всё большую популярность приобретают методы самообучения, позволяющие предварительно обучать представления без разметки, после чего выполнять многоклассовую классификацию с небольшим количеством размеченных данных.

Калибровка вероятностей

Одной из актуальных задач является получение хорошо откалиброванных вероятностей. Наиболее распространены методы Temperature Scaling, Platt Scaling и Isotonic Regression.

Области применения

Многоклассовая классификация используется в:

См. также

Примечания

Литература

  • Bishop C. M. Pattern Recognition and Machine Learning. — Springer, 2006.
  • Hastie T., Tibshirani R., Friedman J. The Elements of Statistical Learning. — 2-е. — Springer, 2009.
  • Rifkin R., Klautau A. In Defense of One-vs-All Classification // Journal of Machine Learning Research. — 2004. — Т. 5. — С. 101–141.
  • Dietterich T., Bakiri G. Solving Multiclass Learning Problems via Error-Correcting Output Codes // Journal of Artificial Intelligence Research. — 1995. — Т. 2. — С. 263–286.
  • Deng J., Dong W., Socher R., Li L.-J., Li K., Fei-Fei L. ImageNet: A Large-Scale Hierarchical Image Database // CVPR. — 2009.
  • He K., Zhang X., Ren S., Sun J. Deep Residual Learning for Image Recognition // CVPR. — 2016.
  • Radford A. и др. Learning Transferable Visual Models From Natural Language Supervision // ICML. — 2021.
  • Guo C., Pleiss G., Sun Y., Weinberger K. On Calibration of Modern Neural Networks // ICML. — 2017.
  • Lin T.-Y., Goyal P., Girshick R., He K., Dollár P. Focal Loss for Dense Object Detection // ICCV. — 2017.
Источник — «http://83.149.227.45/wiki/index.php?title=%D0%9C%D0%BD%D0%BE%D0%B3%D0%BE%D0%BA%D0%BB%D0%B0%D1%81%D1%81%D0%BE%D0%B2%D0%B0%D1%8F_%D0%BA%D0%BB%D0%B0%D1%81%D1%81%D0%B8%D1%84%D0%B8%D0%BA%D0%B0%D1%86%D0%B8%D1%8F»
Личные инструменты