Линейный дискриминантный анализ (LDA) является очень распространенным методом для решения задач уменьшения размерности в качестве шага предварительной обработки для задач машинного обучения и классификации шаблонов. В то же время он обычно используется как черный ящик, но не всегда хорошо понимается. Метод LDA преодолевает ограничение не менее известного метода уменьшения размерности – метода главных компонент (PCA) – путем использования линейного дискриминантного критерия. Этот критерий пытается максимизировать отношение определителя матрицы рассеяния между классами спроецированных образцов к определителю матрицы рассеяния внутри класса спроецированных образцов. Цель этой статьи – предоставить понимание того, что такое LDA, как LDA работает, что даст различным группам читателей возможность лучше понять LDA и знать, как применять эту технику в различных задачах. В статье представлено основное определение метода LDA. Кроме того, подробно описаны два метода вычисления пространства LDA, т. е. зависимые от класса и не зависимые от класса методы. В статье рассматриваются ключевые этапы алгоритма LDA, а также приведен пример использования данного метода. Также был проведен сравнительный анализ LDA c PCA.

Linear discriminant analysis (LDA) is a very common method for dimensionality reduction tasks as a preprocessing step for machine learning and template classification tasks. At the same time, it is usually used as a black box, but is not always well understood. The LDA method overcomes the limitation of an equally well-known method of reducing dimension – the principal component analysis (PCA), using a linear discriminant criterion. This criterion attempts to maximize the ratio of the scattering matrix determinant between the classes of projected samples to the scattering matrix determinant within the class of projected samples. The purpose of this article is to provide an understanding of what the LDA is and how the LDA works, which will provide different groups of readers with the opportunity to better understand the LDA and know how to apply this technique in various tasks. The article gives a basic definition of the LDA method. In addition, two methods for calculating the LDA space are described in detail, i.e., class-dependent and class-independent methods. The article discusses the key stages of the LDA algorithm, as well as an example of the use of this method. Finally, a comparative analysis of LDA with PCA was performed.