Prequisito: Principal Component Analysis
Independent Component Analysis (ICA) è una tecnica di apprendimento automatico per separare fonti indipendenti da un segnale misto. A differenza dell’analisi a componenti principali che si concentra sulla massimizzazione della varianza dei punti dati, l’analisi a componenti indipendenti si concentra sull’indipendenza, cioè sulle componenti indipendenti.
Problema: Estrarre i segnali di fonti indipendenti da un segnale misto composto dai segnali di quelle fonti.
Dato: Segnale misto da cinque diverse fonti indipendenti.
Obiettivo: Decomporre il segnale misto in fonti indipendenti:
- Fonte 1
- Fonte 2
- Fonte 3
- Fonte 4
- Fonte 5
Soluzione: Independent Component Analysis (ICA).
Considera il problema del Cocktail Party o il problema della Blind Source Separation per capire il problema che viene risolto dall’analisi dei componenti indipendenti.
Qui, c’è una festa in una stanza piena di gente. C’è ‘n’ numero di altoparlanti in quella stanza e stanno parlando simultaneamente alla festa. Nella stessa stanza, c’è anche ‘n’ numero di microfoni posti a diverse distanze dagli altoparlanti che stanno registrando ‘n’ segnali vocali degli altoparlanti. Quindi, il numero di altoparlanti è uguale al numero necessario di microfoni nella stanza.
Ora, usando le registrazioni di questi microfoni, vogliamo separare tutti gli ‘n’ segnali vocali degli altoparlanti nella stanza dato che ogni microfono ha registrato i segnali vocali provenienti da ogni altoparlante di diversa intensità a causa della differenza di distanza tra loro. La decomposizione del segnale misto della registrazione di ogni microfono in un segnale vocale di sorgente indipendente può essere fatta usando la tecnica di apprendimento automatico, l’analisi delle componenti indipendenti.
=>
dove, X1, X2, …, Xn sono i segnali originali presenti nel segnale misto e Y1, Y2, …, Yn sono le nuove caratteristiche e sono componenti indipendenti l’una dall’altra.
Restrizioni sull’ICA –
- Si presume che le componenti indipendenti generate dall’ICA siano statisticamente indipendenti l’una dall’altra.
- Le componenti indipendenti generate dall’ICA devono avere una distribuzione non gaussiana.
- Il numero di componenti indipendenti generate dall’ICA è uguale al numero di miscele osservate.
Differenza tra PCA e ICA –
Analisi dei componenti principali | Analisi dei componenti indipendenti |
---|---|
Riduce le dimensioni per evitare il problema di overfitting. | Decompone il segnale misto nei suoi segnali di fonti indipendenti. |
Si occupa delle componenti principali. | Si occupa delle componenti indipendenti. |
Si concentra sulla massimizzazione della varianza. | Non si concentra sulla questione della varianza tra i punti dati. |
Si concentra sulla proprietà di mutua ortogonalità delle componenti principali. | Non si concentra sull’ortogonalità reciproca delle componenti. |
Non si concentra sull’indipendenza reciproca delle componenti. | Si concentra sull’indipendenza reciproca delle componenti. |