Почему гауссовские модели «дискриминантного» анализа так называют?

Модели гауссовского дискриминантного анализа изучают а затем применяют правило Байеса для оценки Следовательно, они являются генеративными моделями. Почему тогда это называется дискриминантным анализом? Если это происходит потому, что мы в итоге получаем кривую дискриминанта между классами, то это происходит для всех порождающих моделей.$P(x|y)$

$$P(y|x) = \frac{P(x|y)P_{prior}(y)}{\Sigma_{g \in Y} P(x|g) P_{prior}(g) }.$$

Если вы имеете в виду LDA, я бы сказал, что название «линейный дискриминантный анализ» можно объяснить исторически, по крайней мере, в статье Фишера 1936 года , которая, насколько мне известно, предшествует современной терминологии и различию в машинном обучении между дискриминационным и генеративная модель. Не то чтобы Фишер называл это линейным дискриминантным анализом напрямую, но он явно просил линейную функцию для дискриминации. В качестве любопытного побочного замечания Фишер рассмотрел дискриминацию для знаменитого набора данных радужной оболочки в газете.

Кстати, Фишер не представил линейного метода дискриминации с точки зрения генеративной модели. Он искал линейную комбинацию (для двух классов), которая максимизирует отношение межгрупповой дисперсии к внутригрупповой дисперсии , которая не требует предположения о нормальности. Подробности и то, как это относится к LDA как правилу Байеса для генеративной модели, можно найти в главе 3 книги Брайана Рипли «Распознавание образов и нейронные сети».

$(Y=0 , Y=1)$

1. $P(X|Y=0) \sim \mathcal{N}(\mu_0,\Sigma_0)$
2. $P(X|Y=1) \sim \mathcal{N}(\mu_1,\Sigma_1)$
3. $P(Y=1)=1-P(Y=0)=\Phi$

$(\mu_0,\Sigma_0,\mu_1,\Sigma_1,\Phi)$

Так что это гауссов, потому что он использует гауссовское допущение для распределения внутри группы (вы можете использовать вместо него равномерный для ex) и дискриминантный, потому что он стремится разделить данные на группы.

Вы можете найти больше информации здесь .