”Powderfinger” är den första låten på den andra, elektriska, sidan av Rust Never Sleeps. Allmusic-kritikern Jason Ankeny beskriver låten, som följer på albumets mjukare, akustiska första sida, som ”en plötslig, nästan förblindande metamorfos, vilket är helt och hållet poängen – det är skottet du aldrig såg komma”. Texten är den postuma berättelsen om en ung man som försöker skydda sin familj mot en annalkande kanonbåt. Han inser att alla äldre män är otillgängliga och lämnar honom ”att tänka”. Efter inledande obeslutsamhet agerar han så småningom och blir slutligen dödad. Han beskriver sin död med den grymma repliken ”my face splash in the sky”. Johnny Rogan beskriver den sista versen som karaktärens ”rörande epitafium”:

Just think of me as one you never figured Would fade away so young With so much left undone Remember me to my love; I know I’ll miss her

Raderna om att han försvinner så ung ekar repliken ”it’s better to burn out than to fade away”, som Young sjunger på öppningslåten i Rust Never Sleeps, ”My My, My, Hey Hey Hey (Out of the Blue)”. Ankeny anser att låtens berättelse i första person ”påminner om traditionell folklig berättelse” men att musiken är ”brinnande rock & roll”, och berömmer de ”mytiska proportionerna” i Youngs gitarrsolon när berättelsen närmar sig sin ”plågsamma” avslutning. Allmusic-kritikern William Ruhlmann beskrev låten som ”anmärkningsvärd” och ansåg den vara den bästa av de stora låtarna på Rust Never Sleeps. Rogan beskriver den som en av ”Youngs stora berättande låtar” och ”nästan filmisk i utförandet”. Rogan berömmer också Crazy Horse’s uppbackning som ”idealisk” och som tillåter Young att ”investera låten med episk betydelse”. Rolling Stones kritiker Paul Nelson jämförde våldet i låten med helikopterscenen med Robert Duvall i filmen Apocalypse Now eftersom den är ”både förfärlig och tilltalande – för oss och för dess berättare – tills det är för sent”. Enligt Nelson skapar den ”traumatiserande” spänning och ”outhärdlig” empati och fascination när han ”drar åt skruvarna på sin ungdomliga hjälte med ett galvaniserande gitarrspel, samtidigt som Crazy Horse släpper loss med allt de har”. Nelson påpekar att musiken innehåller ”ett stråk av stigande toner som avbryts av ett dödligt nedåtgående ackord”, vad kritikern Greil Marcus beskrev som ”fatalism i en fras”.

Rolling Stones bidragande redaktör Rob Sheffield kallar ”Powderfinger” för ”en exorcism av manligt våld med hagelgevärsstyrka som höjer sig till punkrockens utmaning”. Författaren Ken Bielen jämför ”Powderfinger” med film noir eftersom berättaren har dött innan låten börjar, och konstaterar att låten ”har förblivit högt ansedd genom årtiondena”. Bielen anser att temat är ”den tragiska och slösaktiga förlusten av ungdomar till följd av konflikter mellan länder och deras ledare”. Nelson menar att även om den öppnar Crazy Horse rock ’n’ roll-sidan av Rust Never Sleeps är den albumets ”renaste folkberättelse”. På Rolling Stones lista över ”500 Greatest Albums of All Time” skriver de att på ”Powderfinger” ”Young’s guitar hits the sky like never before”. Kritikern Dave Marsh hävdade att ”Young skrev ett så briljant uttalande om amerikansk nihilism och förtvivlan som någon rockförfattare har skapat”

.