Nestankom Rimskog carstva Singidunum je izgubio svoj značaj, a jedno vreme bio je i napušten, posle hunskog razaranja 441-442.godine. Nastupilo je vreme stalnih borbi između Vizantije i različitih varvarskih plemena. Ostrogotski vladar Teodorik 471.godine osvojio je oblast današnjeg Beograda, ali ni vladavina Ostrogota nije dugo trajala, jer su oni napustili ove krajeve i otišli prema Apeninskom poluostrvu. Postoje podaci kod vizantijskog istoričara Prokopija koji ukazuju da je Justinijan obnovio grad u 6. veku. U to vreme pominje se i beogradski episkop, što je prvi put da se posle 4. veka spominje titula verskog poglavara u gradu.
Svoj značaj Beograd je ponovo stekao tokom 9.veka kada se 878. godine prvi put javlja slovensko ime Beograda u pismu pape Jovana VIII upućenom bugarskom vladaru Borisu I. On ga tada obaveštava da je u beogradskoj episkopiji (Episcopatus Belgradensis) smenio izvesnog Sergija zbog poročnog načina života.
Kopija pisma pape Jovana VIII
Sledeći put Beograd se pominje 885.godine kada su iz Velike Moravske proterani vizantijski misonari na čelu sa Klimentom i Naumom. Oni su došli Dunavom do Beograda kojeg nazivaju „najslavnijim gradom na Dunavu“.
Tokom 11. veka u vreme hodočasničkih i krstaških pohoda, Beograd se spominje kao mesto na putu za Svetu zemlju. Poslednji put pod vizantijskom vlašću bio je između 1190-1204. godine kada dolazi i do prodora krstaša u Carigrad. Od tada prelazi u posed ugarskog kralja, koji će njegov važan strateški položaj koristiti u cilju širenja političkog uticaja na srpsku srednjovekovnu državu.
Prvi put Beograd se našao pod srpskom vlašću 1284. godine kada je kralj Dragutin kao zet i vazal ugarskog kralja dobio grad Beograd zajedno sa Mačvom i Sremom. Od 1319. godine Beograd je ponovo pod ugarskom vlašću.
Složene političke prilike u kojima se našao despot Stefan Lazarević kao legitimni vladar srpske srednjovekovne države,uslovile su ga da prizna i ugarsku i vizantijsku vrhovnu vlast. U takvim, delikatnim, istorijskim okolnostima on je uspeo da dobije Beograd od ugarskog kralja Žigmunda. Proglasivši ga svojom prestonicom despot Stefan Lazarević je Beograd pretvorio u središte visoke politike, kulture i trgovine u državi.