Die Wasserfälle entstanden in Gesteinen der "Unteren Süßwassermolasse". Diese wurden während der Zeit des Miozäns vor 17 bis 15 Millionen Jahren auf dem Festland abgelagert. Damals führten reißende Flüsse grobes Geröll heran und setzten es bei nachlassender Fließgeschwindigkeit wieder ab. Aus diesem Schutt entstanden die "Konglomerate", Lagen von Geröllen unterschiedlicher Größe, die durch eine mörtelähnliche Masse aus feinen Gesteinsbruchstücken und Mineralen zusammengekittet wurden. Das Gestein sieht aus, als hätte man große Nägel so tief hineingeschlagen, dass nur noch die Köpfe herausschauen. Daher nennt man derartige verfestigte Schotter in der Bodenseeregion auch "Nagelfluh". Zu Zeiten mit ruhigeren Fließgeschwindigkeiten lagerten die Flüsse Sand und feinen Schlick ab, der später zu Sand- und Mergelstein verfestigt wurde. Reste eingeschlossener Pflanzen und Tieren sind als Fossilien erhalten.

Seit ca. 35 Millionen Jahren wird der Verwitterungsschutt der Alpen im Norden des Gebirges in der sogenannten Molassezone abgelagert. Dieser Bereich senkte sich im Lauf der Zeit immer weiter ab, so dass alter Schutt von neuem überdeckt wurde. In dem sich über 1.000 km erstreckenden und im bayerischen Teil ca. 130 km breiten Trog entstand ein gewaltiges Gesteinspaket, das mehrere tausend Meter dick ist und an seinem Südrand sogar in die Gebirgsfaltung einbezogen wurde. Während ihrer wechselvollen Geschichte war die Molassezone zeitweise vom Meer überflutet, oder - nachdem sich das Meer zurückgezogen hatte - eine Seen und Flusslandschaft. Dementsprechend wurden verschiedenartige Sedimente abgelagert, die man heute nach ihrer Entstehung als "Meeresmolasse" oder "Süßwassermolasse" bezeichnet.