Référence : Tan, chapitres 3 et 4 ; ISLR, chapitre 4.

Contenus :

•       Notion de frontière de décision et représentation géométrique d'un classifieur

•       Algorithme des k plus proches voisins : principe et absence de phase d'apprentissage

•       Choix de k, choix de la distance et effet de la mise à l'échelle

•       Coût en mémoire et en temps de prédiction

•       Classification bayésienne naïve : théorème de Bayes appliqué à la classification

•       Hypothèse d'indépendance conditionnelle et raisons de son efficacité pratique

•       Variantes selon la nature des caractéristiques

•       Application à la classification de textes

•       Comparaison des deux méthodes sur un même jeu de données

Objectifs pédagogiques :

•       Expliquer et mettre en œuvre l'algorithme des k plus proches voisins

•       Expliquer l'effet de la mise à l'échelle sur les méthodes fondées sur la distance

•       Mettre en œuvre une classification bayésienne naïve et en expliquer l'hypothèse

Comparer deux classifieurs selon un protocole identique