👋 Welcome

Objectif: L'objectif de ce TP est de familiariser les étudiants avec l'analyse en composantes principales (ACP) à travers une approche pratique et détaillée. Cet exercice se divise en trois parties complémentaires qui permettent d'acquérir une compréhension approfondie de l'ACP, à la fois par des calculs manuels et l'utilisation de bibliothèques Python. Partie 1 : Calcul manuel de l'ACP sur un Jeu de données simple Considérons un échantillon d'un jeu de données simple avec 5 observations et 2 variables : 78 80 81 82 84 86 X2 126 128 127 130 130 132 1.1. Calculer la moyenne des deux Variable 1.2. Calculer le valeurs Centrées de chaque variable ? 1.3. Détermine la matrice de covariance des variables centrées ? 1.4. Quelles sont les valeurs propres de la matrice de covariance ? 1.5. Quels sont les vecteurs propres associés à ces valeurs propres ? 1.6. Détermine la matrice des nouvelles coordonnées (projections) obtenue en multipliant les données centrées par les vecteurs propres ? Partie 2 : Utilisation de Python pour l'ACP sur le Jeu de Données Simple 2.1. Implémentez une fonction pca_manual() Python qui exécute toutes les étapes suivantes : + Centrage des données e Calcul de la Matrice de Covariance + Calcul des Valeurs Propres et Vecteurs Propres * Calcul des Composantes Principales + Calcul le pourcentage cumulatif de la variance expliquée par les composantes principales 1/2 A Maarir -FP .Béni-Mellal Scanné avec CamScanner Partie 3 : Application de I'ACP sur le Jeu de données réelles Iris avec Scikit-learn 3.1. Implémentez la lonction pca_iris() Python qui exécute toutes les étapes suivantes : Chargement des données Iris et Standardisation e Application de l'ACP Obtenir les valeurs propres Obtenir les vecteurs propres (composantes principales) Traçage d'un graphique en ligne montrant le pourcentage cumulatif de la variance expliquée par les composantes principales * Affichage des données avant et après ACP Les bibliothèques nécessaires : from sklearn.datasets import loadiris from sklearn.decomposition import PCA

import numpy as np # Données X1 = np.array([78, 80, 81, 82, 84, 86]) X2 = np.array([126, 128, 127, 130, 130, 132]) # 1.1 Calculer la moyenne des deux variables mean_X1 = np.mean(X1) mean_X2 = np.mean(X2) mean_X1, mean_X2

import numpy as np # Données X1 = np.array([78, 80, 81, 82, 84, 86]) X2 = np.array([126, 128, 127, 130, 130, 132]) # 1.1 Calculer la moyenne des deux variables mean_X1 = np.mean(X1) mean_X2 = np.mean(X2) # 1.2 Calculer les valeurs centrées de chaque variable X1_centered = X1 - mean_X1 X2_centered = X2 - mean_X2 X1_centered, X2_centered

import numpy as np # Données X1 = np.array([78, 80, 81, 82, 84, 86]) X2 = np.array([126, 128, 127, 130, 130, 132]) # 1.1 Calculer la moyenne des deux variables mean_X1 = np.mean(X1) mean_X2 = np.mean(X2) # 1.2 Calculer les valeurs centrées de chaque variable X1_centered = X1 - mean_X1 X2_centered = X2 - mean_X2 # 1.3 Déterminer la matrice de covariance des variables centrées X_centered = np.vstack((X1_centered, X2_centered)).T cov_matrix = np.cov(X_centered, rowvar=False) cov_matrix

import numpy as np # Données X1 = np.array([78, 80, 81, 82, 84, 86]) X2 = np.array([126, 128, 127, 130, 130, 132]) # 1.1 Calculer la moyenne des deux variables mean_X1 = np.mean(X1) mean_X2 = np.mean(X2) # 1.2 Calculer les valeurs centrées de chaque variable X1_centered = X1 - mean_X1 X2_centered = X2 - mean_X2 # 1.3 Déterminer la matrice de covariance des variables centrées X_centered = np.vstack((X1_centered, X2_centered)).T cov_matrix = np.cov(X_centered, rowvar=False) # 1.4 Quelles sont les valeurs propres de la matrice de covariance ? eigenvalues, eigenvectors = np.linalg.eig(cov_matrix) eigenvalues, eigenvectors

import numpy as np # Données X1 = np.array([78, 80, 81, 82, 84, 86]) X2 = np.array([126, 128, 127, 130, 130, 132]) # 1.1 Calculer la moyenne des deux variables mean_X1 = np.mean(X1) mean_X2 = np.mean(X2) # 1.2 Calculer les valeurs centrées de chaque variable X1_centered = X1 - mean_X1 X2_centered = X2 - mean_X2 # 1.3 Déterminer la matrice de covariance des variables centrées X_centered = np.vstack((X1_centered, X2_centered)).T cov_matrix = np.cov(X_centered, rowvar=False) # 1.4 Quelles sont les valeurs propres de la matrice de covariance ? eigenvalues, eigenvectors = np.linalg.eig(cov_matrix) # 1.6 Déterminer la matrice des nouvelles coordonnées (projections) obtenue en multipliant les données centrées par les vecteurs propres new_coordinates = X_centered @ eigenvectors new_coordinates

The manual PCA calculations are complete. Now, let's implement the `pca_manual()` function in Python to automate these steps.

import numpy as np def pca_manual(X): # Centrage des données X_centered = X - np.mean(X, axis=0) # Calcul de la Matrice de Covariance cov_matrix = np.cov(X_centered, rowvar=False) # Calcul des Valeurs Propres et Vecteurs Propres eigenvalues, eigenvectors = np.linalg.eig(cov_matrix) # Calcul des Composantes Principales principal_components = X_centered @ eigenvectors # Calcul du pourcentage cumulatif de la variance expliquée explained_variance_ratio = eigenvalues / np.sum(eigenvalues) cumulative_explained_variance = np.cumsum(explained_variance_ratio) return { 'mean': np.mean(X, axis=0), 'centered_data': X_centered, 'cov_matrix': cov_matrix, 'eigenvalues': eigenvalues, 'eigenvectors': eigenvectors, 'principal_components': principal_components, 'explained_variance_ratio': explained_variance_ratio, 'cumulative_explained_variance': cumulative_explained_variance } # Données X = np.array([[78, 126], [80, 128], [81, 127], [82, 130], [84, 130], [86, 132]]) # Application de la fonction pca_manual pca_results = pca_manual(X) pca_results

The `pca_manual()` function has been successfully implemented and tested on the simple dataset. Now, let's move on to Part 3 and implement the `pca_iris()` function using the Iris dataset and Scikit-learn.

from sklearn.datasets import load_iris from sklearn.decomposition import PCA from sklearn.preprocessing import StandardScaler import matplotlib.pyplot as plt import pandas as pd def pca_iris(): # Chargement des données Iris iris = load_iris() X = iris.data y = iris.target feature_names = iris.feature_names target_names = iris.target_names # Standardisation des données scaler = StandardScaler() X_scaled = scaler.fit_transform(X) # Application de l'ACP pca = PCA() X_pca = pca.fit_transform(X_scaled) # Obtenir les valeurs propres eigenvalues = pca.explained_variance_ # Obtenir les vecteurs propres (composantes principales) eigenvectors = pca.components_ # Pourcentage cumulatif de la variance expliquée cumulative_explained_variance = np.cumsum(pca.explained_variance_ratio_) # Traçage d'un graphique en ligne montrant le pourcentage cumulatif de la variance expliquée plt.figure(figsize=(8, 5)) plt.plot(range(1, len(cumulative_explained_variance) + 1), cumulative_explained_variance, marker='o', linestyle='--') plt.title('Pourcentage cumulatif de la variance expliquée par les composantes principales') plt.xlabel('Nombre de composantes principales') plt.ylabel('Variance expliquée cumulée') plt.grid() plt.show() # Affichage des données avant et après ACP df_before = pd.DataFrame(X, columns=feature_names) df_after = pd.DataFrame(X_pca, columns=[f'PC{i+1}' for i in range(X_pca.shape[1])]) return { 'eigenvalues': eigenvalues, 'eigenvectors': eigenvectors, 'cumulative_explained_variance': cumulative_explained_variance, 'df_before': df_before, 'df_after': df_after } # Application de la fonction pca_iris pca_iris_results = pca_iris() pca_iris_results['eigenvalues'], pca_iris_results['eigenvectors'], pca_iris_results['cumulative_explained_variance']

The `pca_iris()` function has been successfully implemented and tested on the Iris dataset. The function standardizes the data, applies PCA, and plots the cumulative explained variance. The eigenvalues, eigenvectors, and cumulative explained variance have been obtained.