„Powderfinger” to pierwsza piosenka z drugiej, elektrycznej, strony Rust Never Sleeps. Krytyk Allmusic Jason Ankeny opisuje ten utwór, po spokojniejszej, akustycznej pierwszej stronie albumu, jako „nagłą, niemalże ślepą metamorfozę, w czym tkwi cały sens – to strzał, którego nie spodziewałeś się nadejść”. Teksty są pośmiertną narracją młodego mężczyzny, który próbuje ochronić swoją rodzinę przed zbliżającym się rewolwerowcem. Zdaje sobie sprawę, że wszyscy starsi mężczyźni są nieosiągalni, pozostawiając go „do myślenia”. Po początkowym niezdecydowaniu, w końcu podejmuje działania i w końcu ginie. Opisuje swoją śmierć makabryczną linią „moja twarz rozpryskuje się na niebie”. Johnny Rogan opisuje ostatnią zwrotkę jako „poruszające epitafium” postaci:

Just think of me as one you never figured Would fade away so young With so much left undone Remember me to my love; I know I’ll miss her

Linie o fading away so young echo linii „it’s better to burn out than to fade away”, które Young śpiewa na piosence otwierającej Rust Never Sleeps, „My My My, Hey Hey (Out of the Blue)”. Ankeny uważa, że pierwszoosobowa narracja piosenki „przywołuje na myśl tradycyjne ludowe opowieści”, ale muzyka to „zapalczywy rock & roll”, i chwali „mityczne proporcje” gitarowych solówek Younga, gdy historia zbliża się do „wstrząsającego” zakończenia. Krytyk Allmusic William Ruhlmann opisał utwór jako „niezwykły”, uznając go za najlepszy z wielkich utworów na Rust Never Sleeps. Rogan opisuje ją jako jedną z „wielkich narracyjnych piosenek Younga” i „niemal filmową w wykonaniu”. Rogan chwali również podkład Crazy Horse jako „idealny” i pozwalający Youngowi „zainwestować piosenkę w epickie znaczenie”. Krytyk Rolling Stone Paul Nelson porównał przemoc w piosence do sceny w helikopterze z Robertem Duvallem w filmie „Czas Apokalipsy” w tym sensie, że jest ona „zarówno przerażająca, jak i pociągająca – dla nas i dla jej narratora – dopóki nie jest za późno”. Według Nelsona, generuje ona „traumatyczne” napięcie i „nieznośną” empatię i fascynację, gdy „dokręca śrubę swojemu młodzieńczemu bohaterowi za pomocą galwanizującej gry na gitarze, podczas gdy Crazy Horse daje z siebie wszystko.” Nelson zwraca uwagę, że muzyka zawiera „ciąg wznoszących się nut uciętych przez śmiertelnie niebezpieczny akord opadający”, co krytyk Greil Marcus opisał jako „fatalizm we frazie”.

Rolling Stone contributing editor Rob Sheffield nazywa „Powderfinger” „egzorcyzmem męskiej przemocy z shotgunowymi akordami mocy wznoszącymi się do wyzwania punk rocka”. Autor Ken Bielen porównuje „Powderfinger” do filmu noir, ponieważ narrator umiera przed rozpoczęciem piosenki, i zauważa, że piosenka „pozostała w dużym poważaniu przez dekady.” Bielen uważa temat za „tragiczną i marnotrawną utratę młodości na rzecz konfliktów między krajami i ich przywódcami”. Nelson sugeruje, że choć otwiera rock’n’rollową stronę Crazy Horse na Rust Never Sleeps, jest to „najczystsza ludowa narracja” albumu. Na liście „500 Greatest Albums of All Time” Rolling Stone’a stwierdzają, że na „Powderfinger” „gitara Younga uderza w niebo jak nigdy wcześniej”. Krytyk Dave Marsh twierdził, że „Young napisał tak genialną wypowiedź o amerykańskim nihilizmie i rozpaczy, jaką stworzył jakikolwiek pisarz rockowy.”

.