Algorithme des k plus proches voisins

Algorithme des k plus proches voisins

Définition de l'algorithme des 10 plus proches voisins

Aperçu de la section: Cette partie présente l'algorithme des 10 plus proches voisins, un algorithme d'apprentissage automatique supervisé appartenant à la famille des méthodes d'apprentissage.

Problématique et Principe de l'Algorithme

  • L'algorithme nécessite des données labellisées pour fonctionner en attribuant des classes à de nouvelles données.
  • Les données sont représentées dans un repère orthonormé par leurs caractéristiques telles que taille et poids.
  • La méthode des plus proches voisins consiste à attribuer à une nouvelle donnée la classe du point le plus proche.

Cas Égal 5 Plus Proches Voisins

  • En considérant les cinq voisins les plus proches, on attribue la classe majoritaire parmi ces voisins à la nouvelle donnée.
  • Avec les dix voisins les plus proches, on choisit la classe majoritaire pour classifier la nouvelle donnée.

Fonctionnement et Compléments de l'Algorithme

Aperçu de la section: Cette partie aborde le fonctionnement détaillé de l'algorithme des 10 plus proches voisins ainsi que quelques compléments importants.

Fonctionnement de l'Algorithme

  • On utilise une fonction distance pour calculer les distances entre les données.
  • En se basant sur les k éléments les plus proches, on attribue à la nouvelle donnée la classe majoritaire parmi eux.

Autres Considérations

  • Le choix judicieux du paramètre k est crucial pour le bon fonctionnement de l'algorithme.
  • Lorsque les données ont plus de deux caractéristiques, on applique une formule générale pour calculer la distance euclidienne.

Types de Distances Utilisées dans l'Algorithme

Aperçu de la section: Cette partie explore différentes distances utilisées dans l'algorithme des 10 plus proches voisins pour évaluer les similarités entre les données.

Distances Couramment Utilisées

  • Outre la distance euclidienne, d'autres types comme Manhattan et Minkowski sont mentionnés.
Video description

Algorithme des k plus proches voisins - k-Nearest Neighbor (kNN) Pour la spécialité NSI de la classe de première