„Powderfinger“ je první píseň druhé, elektrické strany alba Rust Never Sleeps. Kritik Allmusic Jason Ankeny píseň, která následuje po mírnější, akustické první straně alba, popisuje jako „náhlou, téměř oslepující metamorfózu, což je zcela účelné – je to výstřel, který jste nikdy nečekali“. Text písně je posmrtným vyprávěním mladého muže, který se snaží ochránit svou rodinu před blížícím se dělovým člunem. Uvědomuje si, že všichni starší muži jsou nedostupní, a tak mu zbývá „jen přemýšlet“. Po počáteční nerozhodnosti se nakonec odhodlá k akci a je nakonec zabit. Svou smrt popisuje hrůznou větou „můj obličej se rozprskl na obloze“. Johnny Rogan popisuje poslední verš jako „dojemný epitaf“ této postavy:
Jen si o mně mysli, že jsem ten, u koho sis nikdy nemyslel, že tak mladý vyhasne s tolika nevyřízenými účty Vzpomeň si na mou lásku; vím, že mi bude chybět
Ve verších o vyhasnutí tak mladého člověka se ozývá věta „je lepší vyhořet než vyhasnout“, kterou Young zpívá v úvodní písni alba Rust Never Sleeps „My My My, Hey Hey (Out of the Blue)“. Ankeny se domnívá, že vyprávění písně v první osobě „evokuje tradiční lidové vyprávění“, ale hudba je „zápalný rock &roll“, a chválí „mýtické rozměry“ Youngových kytarových sól, když se příběh blíží ke svému „trýznivému“ závěru. Kritik Allmusic William Ruhlmann píseň označil za „pozoruhodnou“ a považuje ji za nejlepší z velkých písní na albu Rust Never Sleeps. Rogan ji popisuje jako jednu z „Youngových skvělých vypravěčských písní“ a „téměř filmové provedení“. Rogan také chválí doprovod Crazy Horse jako „ideální“ a umožňující Youngovi „dodat písni epický význam“. Kritik časopisu Rolling Stone Paul Nelson přirovnal násilí v písni ke scéně s vrtulníkem s Robertem Duvallem ve filmu Apocalypse Now v tom smyslu, že je „děsivé a zároveň přitažlivé – pro nás i pro jeho vypravěče – dokud není příliš pozdě“. Podle Nelsona vytváří „traumatizující“ napětí a „nesnesitelnou“ empatii a fascinaci, když „utahuje šrouby svému mladistvému hrdinovi galvanizující kytarovou hrou, zatímco Crazy Horse řežou ze všech sil“. Nelson poukazuje na to, že hudba obsahuje „řetězec vzestupných tónů přerušený smrtícím sestupným akordem“, což kritik Greil Marcus popsal jako „fatalismus ve frázi“.
Rolling Stone přispívající redaktor Rob Sheffield nazývá „Powderfinger“ „exorcismem mužského násilí s brokovnicovými power akordy, který se staví na odpor punk rocku“. Autor Ken Bielen přirovnává „Powderfinger“ k filmu noir, protože vypravěč zemřel ještě před začátkem písně, a poznamenává, že píseň „zůstala po desetiletí ve velké úctě“. Bielen považuje téma za „tragickou a zbytečnou ztrátu mládí kvůli konfliktům mezi zeměmi a jejich vůdci. Nelson naznačuje, že ačkoli otevírá rock’n’rollovou stránku alba Crazy Horse Rust Never Sleeps, je to „nejčistší folkové vyprávění alba“. V seznamu 500 nejlepších alb všech dob časopisu Rolling Stone uvádějí, že na „Powderfinger“ „Youngova kytara zasahuje nebe jako nikdy předtím“. Kritik Dave Marsh prohlásil, že „Young napsal tak brilantní výpověď o americkém nihilismu a zoufalství, jakou dosud žádný rockový autor nevytvořil“
.