Wymagania wstępne: Principal Component Analysis
Independent Component Analysis (ICA) jest techniką uczenia maszynowego służącą do oddzielania niezależnych źródeł od sygnału mieszanego. W przeciwieństwie do analizy składowych głównych, która koncentruje się na maksymalizacji wariancji punktów danych, analiza składowych niezależnych koncentruje się na niezależności, tj. niezależnych składowych.
Problem: Wyodrębnić sygnały niezależnych źródeł z sygnału mieszanego złożonego z sygnałów z tych źródeł.
Dane: Sygnał mieszany z pięciu różnych niezależnych źródeł.
Cel: Rozłożyć sygnał mieszany na niezależne źródła:
- Źródło 1
- Źródło 2
- Źródło 3
- Źródło 4
- Źródło 5
Rozwiązanie: Independent Component Analysis (ICA).
Rozważmy Cocktail Party Problem lub Blind Source Separation problem, aby zrozumieć problem, który jest rozwiązywany przez analizę niezależnych składowych.
Here, There is a party going into a room full of people. W pokoju jest „n” mówców, którzy mówią jednocześnie na przyjęciu. W tym samym pomieszczeniu znajduje się również 'n’ liczba mikrofonów umieszczonych w różnych odległościach od mówców, które rejestrują sygnały głosowe 'n’ mówców. Stąd, liczba głośników jest równa liczbie musi mikrofonów w pokoju.
Teraz, przy użyciu tych nagrań mikrofonów, chcemy oddzielić wszystkie „n” sygnały głosowe głośników w pokoju, biorąc pod uwagę każdy mikrofon nagrał sygnały głosowe pochodzące z każdego głośnika o różnej intensywności z powodu różnicy w odległości między nimi. Dekompozycja sygnału mieszanego z nagrań każdego mikrofonu na sygnał mowy niezależnego źródła może być przeprowadzona przy użyciu techniki uczenia maszynowego, analizy niezależnych składowych.
=>
gdzie, X1, X2, …, Xn są oryginalnymi sygnałami obecnymi w sygnale mieszanym, a Y1, Y2, …, Yn są nowymi cechami i są niezależnymi składowymi, które są niezależne od siebie.
Ograniczenia na ICA –
- Zakłada się, że niezależne składowe generowane przez ICA są statystycznie niezależne od siebie.
- Niezależne składowe generowane przez ICA muszą mieć rozkład niegaussowski.
- Liczba niezależnych składowych generowanych przez ICA jest równa liczbie obserwowanych mieszanin.
Różnica między PCA i ICA –
| Principal Component Analysis | Independent Component Analysis |
|---|---|
| Zmniejsza wymiary, aby uniknąć problemu nadmiernego dopasowania. | Dekomponuje sygnał mieszany na sygnały z jego niezależnych źródeł. |
| Zajmuje się składowymi głównymi. | Zajmuje się składowymi niezależnymi. |
| Skupia się na maksymalizacji wariancji. | Nie skupia się na problemie wariancji między punktami danych. |
| Skupia się na własności wzajemnej ortogonalności składowych głównych. | Nie skupia się na wzajemnej ortogonalności składowych. |
| Nie skupia się na wzajemnej niezależności składowych. | Skupia się na wzajemnej niezależności składowych. |
