Narodil se v roce 1876 v Cádizu, historickém přístavním městě v nejjižnějším cípu Andalusie, a je největším španělským skladatelem tohoto století. Jeho formální hudební vzdělání začalo lekcemi klavíru, a když bylo Fallovi dvacet let, přestěhovala se jeho rodina do Madridu, kde studoval u významného učitele José Tragóa. Poté pokračoval ve studiu skladby u Felipe Pedrella, učitele a vědce, který stál v čele obrody španělské hudby, k níž došlo na konci devatenáctého století.
V roce 1904 zvítězila Fallova jednoaktová opera La vida breve (Život je krátký) ve skladatelské soutěži Real Academia de Bellas Artes a zároveň získal prestižní klavírní cenu pořádanou výrobci klavírů Ortiz y Cussó. V roce 1907 se mu splnila dlouholetá touha vycestovat do Paříže, kde ho přivítali Ravel, Debussy (s nímž si již dříve dopisoval) a především Paul Dukas. Dokončil několik komorních skladeb a začal pracovat na Noches en los jardines de Espãna (Noci ve španělských zahradách), než ho vypuknutí války v roce 1914 donutilo vrátit se do vlasti.
O dva roky později byl osloven Ďagilevem, aby napsal dílo pro ruský balet, a v reakci na to zkomponoval pantomimickou hru ve dvou tabulích El corregidor y la molinera (Soudce a mlynářova žena), která se po několika pozdějších úpravách stala El sombrero de tres picos (Třírohý klobouk) a byla s velkým úspěchem uvedena v Londýně v roce 1919 v Massinově choreografii a Picassových návrzích.
Po smrti svých rodičů v roce 1919 se usadil v Granadě, kde zůstal až do konce občanské války (1939) a složil několik svých nejvýznamnějších děl včetně El retablo de maese Pedro (Loutkové představení mistra Petra), Psyché a Concerto per clavicembalo (Cembalový koncert). Poté se přestěhoval do Argentiny, kde působil až do své smrti v roce 1946, jen několik dní před svými sedmdesátými narozeninami, a zanechal po sobě nedokončené rozsáhlé oratorium Atlántida.