Nerja tiene una larga historia, evidenciada por las pinturas primitivas encontradas en sus famosas cuevas de Nerja, descubiertas en 1959. En la actualidad se cree que estas cuevas son sólo una de las entradas de una serie de sumideros conectados que se extienden muchos kilómetros en las montañas entre Nerja y Granada, y que aún pueden resultar ser uno de los sistemas más extensos e inexplorados de Europa. Los visitantes de las cuevas podrán ver los restos de uno de los antiguos habitantes de Nerja.
Los romanos construyeron aquí tres asentamientos, incluyendo Detunda, del que ahora se pueden ver grandes restos. La zona fue posteriormente tomada por los árabes a principios del siglo VIII. Bajo los árabes, la ciudad era conocida como Narixa, que significa «manantial abundante», de donde deriva el nombre actual.
Se dice que sus productos agrícolas y de seda eran famosos en todo el mundo musulmán y en los mercados de Damasco ya en el siglo X.
En el centro del casco antiguo se encuentra el Balcón de Europa, un mirador que ofrece impresionantes vistas al mar. Se cree que su nombre fue acuñado por el rey Alfonso XII, que visitó la zona en 1885 tras un desastroso terremoto y quedó cautivado por la escena. El folclore local dice que se paró en el lugar donde ahora se encuentra el Balcón y dijo «Este es el balcón de Europa». Se dice que los documentos de los archivos locales demuestran que su nombre es anterior a esta visita, pero esto no ha impedido que las autoridades hayan colocado una estatua de tamaño natural (y muy fotografiada) del rey junto a la barandilla.
La zona del Balcón se conocía originalmente como La Batería, en referencia a la batería de cañones que existía allí en una torre fortificada. Este emplazamiento y una torre similar cercana fueron destruidos durante la Guerra de la Independencia. En mayo de 1812, los buques británicos Hyacinth, Termagant y Basilisk apoyaron a las guerrillas españolas en la costa de Granada, contra los franceses. El 20 de mayo, el Termagant o el Hyacinth abrieron fuego y los fuertes fueron destruidos. Dos cañones oxidados colocados al final del Balcón recuerdan estos tiempos violentos. Los enormes trozos de roca, los restos de La Batería, visibles en el mar al final del Balcón, son una prueba más de esta acción.