“Powderfinger” er den første sang på den anden, elektriske, side af Rust Never Sleeps. Allmusic-anmelder Jason Ankeny beskriver sangen, der følger efter albummets blidere, akustiske første side, som “en pludselig, næsten blindgydende metamorfose, hvilket er hele pointen – det er det skud, du aldrig så komme”. Teksten er den posthume fortælling om en ung mand, der forsøger at beskytte sin familie mod en nærmende kanonbåd. Det går op for ham, at alle de ældre mænd er utilgængelige, og han overlader det til ham “at tænke”. Efter indledende ubeslutsomhed tager han til sidst handling og bliver i sidste ende dræbt. Han beskriver sin død med den grusomme linje “mit ansigt sprøjter i himlen”. Johnny Rogan beskriver det sidste vers som karakterens “bevægende gravskrift”:

Just think of me as one you never figured Would fade away so young With so much left undone Remember me to my love; I know I’ll miss her

Rækkerne om at forsvinde så ung er et ekko af linjen “it’s better to burn out than to fade away”, som Young synger på åbningssangen i Rust Never Sleeps, “My My, My, Hey Hey Hey (Out of the Blue)”. Ankeny mener, at sangens førstepersonsfortælling “fremkalder traditionel folkemusikfortælling”, men at musikken er “brandvarm rock & roll”, og roser de “mytiske proportioner” i Youngs guitarsoloer, mens historien nærmer sig sin “rystende” afslutning. Allmusic-anmelder William Ruhlmann beskrev sangen som “bemærkelsesværdig” og betragtede den som den bedste af de store sange på Rust Never Sleeps. Rogan beskriver den som en af “Youngs store fortællende sange” og “næsten filmisk i udførelsen”. Rogan roser også Crazy Horse’s opbakning som “ideel” og tillader Young at “investere sangen med episk betydning”. Rolling Stone-anmelderen Paul Nelson sammenlignede volden i sangen med helikopterscenen med Robert Duvall i filmen Apocalypse Now, idet den er “både rystende og tiltrækkende – for os og for dens fortæller – indtil det er for sent”. Ifølge Nelson skaber den “traumatiserende” spænding og “uudholdelig” empati og fascination, da han “strammer skruerne på sin ungdommelige helt med noget galvaniserende guitarspil, mens Crazy Horse slår løs med alt, hvad de har.” Nelson påpeger, at musikken inkorporerer “en række opadgående toner, der afbrydes af en dødbringende nedadgående akkord”, hvad kritikeren Greil Marcus beskrev som “fatalisme i en sætning”.

Rolling Stones medarbejdende redaktør Rob Sheffield kalder “Powderfinger” for “en eksorcisme af mandlig vold med shotgun power akkorder, der rejser sig til punkrockens udfordring”. Forfatter Ken Bielen sammenligner “Powderfinger” med film noir, fordi fortælleren er død, før sangen begynder, og bemærker, at sangen “er forblevet i høj anseelse gennem årtierne”. Bielen betragter temaet som “det tragiske og ødsle tab af unge til konflikter mellem lande og deres ledere”. Nelson foreslår, at selv om den åbner Crazy Horses rock ‘n’ roll-side af Rust Never Sleeps, er den albummets “reneste folkfortælling”. På Rolling Stones liste over “500 Greatest Albums of All Time” skriver de, at på “Powderfinger” “Young’s guitar hits the sky like never before”. Kritikeren Dave Marsh hævdede, at “Young skrev et så genialt udsagn om amerikansk nihilisme og fortvivlelse som nogen rockforfatter har skabt.”