Förutsättning: Principal Component Analysis
Independent Component Analysis (ICA) är en maskininlärningsteknik för att separera oberoende källor från en blandad signal. Till skillnad från huvudkomponentanalysen, som fokuserar på att maximera datapunkternas varians, fokuserar den oberoende komponentanalysen på oberoende, dvs. oberoende komponenter.
Problem: Att extrahera oberoende källors signaler från en blandad signal som består av signalerna från dessa källor.
Givet: Blandad signal från fem olika oberoende källor.
Syfte: Att sönderdela den blandade signalen i oberoende källor:
- Källa 1
- Källa 2
- Källa 3
- Källa 4
- Källa 5
Lösning: Lösning: Independent Component Analysis (ICA).
Konsultera Cocktail Party Problem eller Blind Source Separation problem för att förstå problemet som löses med Independent Component Analysis.
Här är det en fest som pågår i ett rum fullt av människor. Det finns ”n” antal talare i rummet och de talar samtidigt på festen. I samma rum finns också ’n’ antal mikrofoner som är placerade på olika avstånd från talarna och som spelar in ’n’ talares röstsignaler. Därför är antalet högtalare lika med antalet mikrofoner i rummet.
Med hjälp av dessa mikrofoners inspelningar vill vi nu separera alla ’n’ högtalares röstsignaler i rummet, eftersom varje mikrofon spelade in röstsignaler från varje högtalare med olika intensitet på grund av skillnaden i avstånd mellan dem. Att dekomponera den blandade signalen från varje mikrofons inspelning till oberoende källors talsignal kan göras med hjälp av tekniken för maskininlärning, independent component analysis.
=>
där X1, X2, …, Xn är de ursprungliga signalerna i den blandade signalen och Y1, Y2, …, Yn är de nya funktionerna och är oberoende komponenter som är oberoende av varandra.
Begränsningar för ICA –
- De oberoende komponenter som genereras av ICA antas vara statistiskt oberoende av varandra.
- De oberoende komponenter som genereras av ICA måste ha en icke-gaussisk fördelning.
- Antalet oberoende komponenter som genereras av ICA är lika med antalet observerade blandningar.
Skillnaden mellan PCA och ICA –
| Principal Component Analysis | Independent Component Analysis |
|---|---|
| Den reducerar dimensionerna för att undvika problemet med overfitting. | Den dekomponerar den blandade signalen i dess oberoende källors signaler. |
| Den behandlar huvudkomponenterna. | Den behandlar de oberoende komponenterna. |
| Den fokuserar på att maximera variansen. | Den fokuserar inte på frågan om variansen mellan datapunkterna. |
| Den fokuserar på den ömsesidiga ortogonalitetsegenskapen hos huvudkomponenterna. | Den fokuserar inte på komponenternas ömsesidiga ortogonalitet. |
| Den fokuserar inte på komponenternas ömsesidiga oberoende. | Den fokuserar på komponenternas ömsesidiga oberoende. |
