GRETSI'03 -- Proceedings

	19^st GRETSI Symposium on Signal and Image Processing Paris 8 - 11 september 2003

Information related to the paper

Title

Algorithme d'apprentissage séquentiel pour la méthode KFD. Relations avec la méthode KPCA

Author(s)

Cédric Richard	Laboratoire LM2S, UTT
Fahed Abdallah	Laboratoire LM2S, UTT

Rererences

vol. I, page 57

Get the paper in PDF format

To obtain Acrobat Reader (version 5 minimum required) necessary to his read.

Abstract

Durant la décennie précédente, de multiples méthodes pour l'analyse et la classification de données fondées sur la théorie des espaces de Hilbert à noyau reproduisant ont été développées. Elles reposent sur le principe fondamental du kernel trick, initialement mis en oeuvre par Vapnik dans le cadre des Support Vector Machines. Celui-ci permet d'étendre au cas non-linéaire des traitements initialement linéaires en utilisant la notion de noyau. La méthode Kernel Fisher Discriminant, nommée KFD, constitue ainsi une généralisation non-linéaire de l'analyse discriminante de Fisher. Bien que son efficacité soit indiscutable, on déplore le fait que sa mise en oeuvre nécessite le stockage et la manipulation de matrices de dimension égale au nombre de données traitées, point critique lorsque l'ensemble d'apprentissage est de grande taille. Cet article présente un algorithme séquentiel palliant cette difficulté puisqu'il ne nécessite, ni la manipulation, ni même le stockage de telles matrices. Dans un second temps, un parallèle est proposé entre KFD et KPCA, acronyme de Kernel Principal Component Analysis, cette dernière méthode constituant une extension au cas non-linéaire de l'analyse en composantes principales. Les points communs exhibés permettent de proposer un algorithme itératif pour celle-ci également. Il présente de fait des similitudes marquées avec celui dédié à KFD

Edition : Télécom-Paris -- 2003