Nachdem Haithabu zerstört und nicht wieder aufgebaut worden war, verfiel die aufgegebene Siedlung gegen Ende des 11. Jahrhunderts auch auf Grund des Wasseranstiegs von Ostsee und Schlei. Das Hafen- sowie das Siedlungsgelände gingen oberirdisch vollständig verloren. Schließlich geriet der Ort gänzlich in Vergessenheit. Die Wallanlage wurde irrtümlich lange Zeit im Volksmund als "Oldenburg" bezeichnet.

1897 vermutete der dänische Archäologe Sophus Müller das alte Haithabu innerhalb des Halbkreiswalls. Diese Annahme wurde drei Jahre später bestätigt, woraufhin bis 1915 umfangreiche Grabungen stattfanden, um die Rolle Haithabus für die Geschichte Dänemarks zu erforschen. Weitere intensive Ausgrabungen fanden von 1930 bis 1939 unter Herbert Jankuhn statt, wobei diese seit 1934 unter der Schirmherrschaft von SS-Reichsführer Heinrich Himmler standen. Im Jahr darauf verlieh Himmler Haithabu den Status "Deutsche Kulturstätte". Jankuhn wurde 1945 verhaftet und die Grabungen wurden unter Kurt Schietzel fortgeführt. Nachdem Jankuhn 1948 entlassen wurde, konnte er im folgenden Jahr die Arbeit in Haithabu wieder aufnehmen.

Dass das Gebiet des früheren Haithabus nie überbaut worden und aufgrund der Nässe der Uferbereich gut erhalten war, waren günstige Voraussetzungen für die Archäologen. Ab 1959 wurden die gesamte Südsiedlung außerhalb des Halbkreiswalles sowie ein großer Teil des alten Siedlungskerns innerhalb des Walles ausgegraben. Auf einer Tauchfahrt 1953 im Hafen wurden Reste der Hafenpalisade sowie das Wrack eines Wikingerschiffes entdeckt, welches damals nach einem Brand unterging. Erst 1979 bot sich die Möglichkeit das Wrack zu heben und zu bergen. Das 24 m lange und 6 m breite Langschiff wurde konserviert, rekonstruiert und im Wikinger-Museum Haithabu ausgestellt. Außerdem wurden Landestege, Schiffbrücken, Befestigungsanlagen, Speichergebäude und Werkstätten gefunden.

Als eines der wichtigsten Gräber gilt das Bootkammergrab, das als niedrige ovale Erhebung südlich des Halbkreiswalles zu erkennen ist. Es wurde 1908 entdeckt und gilt als in seiner Form einmalig. Die hölzerne Grabkammer war in einen kleineren und einen größeren Teil unterteilt und enthielt die Beigaben der vermutlich drei Bestatteten. Gefunden wurden unter anderem Pfeile, Schwerter, Silberschmuck und ein Holzeimer. Neben der Grabkammer wurden die Skelette dreier Pferde identifiziert. Über der Grabkammer wurden die Reste eines etwa 16 m langen und ungefähr 3 m breiten Bootes gefunden, dessen genaue Größe sich aufgrund des Grades der Zerstörung nicht mehr ermitteln lässt. Die Beisetzung wird zwischen das späte 9. und das frühe 10. Jahrhundert datiert. Wer in diesem Bootkammergrab bestattet worden war, lässt sich nicht klären. In keinem anderen bekannten Fall wurden die Toten unterhalb eines Bootes beigesetzt. Anhand der wertvollen Beigaben wird über einen höheren sozialen Stand spekuliert.

Seit 2005 wird erneut gegraben. Damit soll u. a. der "Stadtplan" überprüft werden, dessen Anfertigung 2002 begann.