Voorvereiste: Principal Component Analysis
Independent Component Analysis (ICA) is een machine leertechniek om onafhankelijke bronnen van een gemengd signaal te scheiden. In tegenstelling tot principale componentenanalyse die zich richt op het maximaliseren van de variantie van de datapunten, richt de onafhankelijke componentenanalyse zich op onafhankelijkheid, d.w.z. onafhankelijke componenten.
Probleem: Onafhankelijke bronsignalen extraheren uit een gemengd signaal dat is samengesteld uit de signalen van die bronnen.
Gegeven: Gemengd signaal van vijf verschillende onafhankelijke bronnen.
Doel: Het gemengde signaal ontleden in onafhankelijke bronnen:
- Bron 1
- Bron 2
- Bron 3
- Bron 4
- Bron 5
Oplossing: Independent Component Analysis (ICA).
Overweeg Cocktail Party Problem of Blind Source Separation problem om het probleem te begrijpen dat wordt opgelost door independent component analysis.
Hier, Er is een feest gaande in een zaal vol mensen. Er is ‘n’ aantal sprekers in die kamer en zij spreken tegelijkertijd op het feest. In dezelfde ruimte staan ook “n” aantal microfoons die op verschillende afstanden van de sprekers zijn geplaatst en die de stemsignalen van “n” sprekers opnemen. Het aantal sprekers is dus gelijk aan het aantal microfoons in de kamer.
Nu willen we, gebruikmakend van de opnamen van deze microfoons, de spraaksignalen van alle “n” sprekers in de kamer scheiden, aangezien elke microfoon de spraaksignalen van elke spreker met verschillende intensiteit heeft opgenomen vanwege het verschil in afstand tussen hen. Het ontleden van het gemengde signaal van de opnamen van elke microfoon in onafhankelijke bron van spraaksignalen kan worden gedaan door gebruik te maken van de machine leertechniek, onafhankelijke componenten analyse.
=>
waar, X1, X2, …, Xn de originele signalen aanwezig in het gemengde signaal zijn en Y1, Y2, …, Yn de nieuwe kenmerken zijn en onafhankelijke componenten zijn die onafhankelijk van elkaar zijn.
Beperkingen op ICA –
- De onafhankelijke componenten die door de ICA worden gegenereerd, worden verondersteld statistisch onafhankelijk van elkaar te zijn.
- De onafhankelijke componenten die door de ICA worden gegenereerd, moeten een niet-gaussische verdeling hebben.
- Het aantal onafhankelijke componenten dat door de ICA wordt gegenereerd, is gelijk aan het aantal waargenomen mengsels.
Verschil tussen PCA en ICA –
| Principal Component Analysis | Independent Component Analysis |
|---|---|
| Het vermindert de dimensies om het probleem van overfitting te vermijden. | Het ontleedt het gemengde signaal in zijn onafhankelijke bronsignalen. |
| Het behandelt de Principale Componenten. | Het behandelt de Onafhankelijke Componenten. |
| Het concentreert zich op het maximaliseren van de variantie. | Het concentreert zich niet op de kwestie van variantie tussen de gegevenspunten. |
| Het concentreert zich op de onderlinge orthogonaliteitseigenschap van de hoofdcomponenten. | Het richt zich niet op de onderlinge orthogonaliteit van de componenten. |
| Het richt zich niet op de onderlinge onafhankelijkheid van de componenten. | Het richt zich op de onderlinge onafhankelijkheid van de componenten. |
