Wanneer men in de Bastei de Basteibrücke volgt, komt men aan de Felsenburg Neurathen. Ongeveer 50 meter achter de Basteibrücke is op de linkerkant de ingang van de Felsenburg. Het is de ruïne van een middeleeuwse rotsburcht. Het ligt boven de Elbe-vallei in de rotsen van de Bastei. Het vroegere burchtcomplex strekte zich uit over het gebied van de Bastei, de Basteibrücke, de Steinschleuder (nu een klimrots) tot de klimrots Mönch, met een monniksfiguur als weerhaan.
De burcht werd voor het eerst genoemd in 1289 en was eigendom van verschillende Boheemse adellijke families tot ze uiteindelijk, na verschillende veldslagen eigendom werd van de Saksische Keurvorsten. De Felsenburg werd in 1469 vernield. Nu blijft alleen een ruïne over. In de jaren 1982 tot 1984 werd de burcht gedeeltelijk gereconstrueerd en opengesteld voor het publiek.
Gewaagde metalen brugconstructies voeren naar de verschillende delen van de burcht. Je mag hier niet te veel hoogtevrees hebben. Tijdens de rondwandeling geven 24 panelen informatie en uitleg. De volumineuze rots, net naast de Basteibrücke, draagt de naam “Steinschleuder”. De naam komt van de katapult, die in de middeleeuwen een deel van de verdedigingswerken was. Bij belegering van de burcht werden met deze katapult grote meer dan 50 kg zware stenen kogels naar de aanvallers geslingerd. Bij één van die belegeringen werd de vroegere houten Basteibrücke vernield en werden de aanvallers mee in de diepte gesleurd. Een model van de katapult, evenals enkele van de gebruikte stenen kogels zijn hier nog te zien.
Met de toeristische ontwikkeling van de Sächsische Schweiz aan het einde van de 18e eeuw, werd de Felsenburg al snel een populaire bestemming voor excursies.