Das Prager Becken gehörte während der gesamten Frühgeschichte zu den am dichtesten und nahezu durchgängig besiedelten Landschaften Böhmens. Erste slawische Gruppen stießen etwa ab der zweiten Hälfte des 6.Jahrhunderts in das Gebiet vor. Im 9.Jahrhundert wurde die Prager Burg mit dem unterhalb im Bereich der heutigen Kleinseite liegenden Stadtteils und im 10.Jahrhundert eine zweite Burg auf dem Vysehrad als Sitz der Premysliden angelegt. Im Schutz der beiden Burgen entwickelten sich auf beiden Seiten der Moldau Ansiedlungen deutscher und jüdischer Kaufleute und einheimischer Handwerker. Um 1230 bis 1234 ließ König Wenzel I die größte dieser Siedlungen an der Moldaubiegung befestigen und erteilte ihr das Stadtrecht. Prag wurde damit zur königlichen Residenzstadt der böhmischen Herrscher. Sein Sohn Premysl Ottokar II vertrieb die auf dem anderen Moldauufer unterhalb der Burg ansässige tschechische Bevölkerung und gründete 1257 die erste Prager Neustadt, die heutige Kleinseite (Malá Strana).

Als dritte Prager Stadt wurde vor 1320 von den Burggrafen die abhängige Hradschin-Stadt (auch Burgstadt, Hradčany) unmittelbar westlich der Burg angelegt. Unter Kaiser Karl IV und seinem Sohn Wenzel IV erblühte die Stadt als Hauptstadt des Heiligen Römischen Reiches in der zweiten Hälfte des 14.Jahrhunderts wirtschaftlich, kulturell, politisch und auf vielen weiteren Gebieten. Hier wurde 1348 die Karls-Universität als erste Universität in Mitteleuropa gegründet. Die Prager Universität war somit die erste deutsche Universität. Durch den Bau der Neustadt im selben Jahr wurde Prag mit weit über 40.000 Einwohnern viertgrößte Stadt nördlich der Alpen und hinsichtlich ihrer Fläche drittgrößte Stadt in Europa. Ab dem Jahr 1419 wurde sie jedoch in den Hussitenkriegen schwer erschüttert und teilweise zerstört.

Ende des 16.Jahrhunderts machte Kaiser Rudolf II die Stadt wieder zur Residenzstadt. Von dieser Zeit zeugen prachtvolle barocke Palais und Kirchen. Durch den zweiten Prager Fenstersturz wurde dann der Dreißigjährige Krieg ausgelöst und auch der Siebenjährige Krieg hinterließ Spuren. Um 1860 verlor Prag seine seit dem Mittelalter bestehende deutsche bzw. deutschsprachige Bevölkerungsmehrheit. Bei der tschechoslowakischen Volkszählung von 1930 gaben noch 42.000 Prager Deutsch als Muttersprache an, sie lebten vor allem im Stadtzentrum (Stadtteile Altstadt und Kleinseite).

Um 1900 war das nach außen weltoffene Prag Sitz der ersten im Gebiet des mittelalterlichen Deutschen Reiches gegründeten Universität, einem Treibhaus für Künstler und nachwachsende Literaten. Allein drei Dichterkreise wetteiferten miteinander: Den engeren Prager Kreis bildeten Max Brod und seine Freunde Franz Katka, Felix Weltsch und Otto Baum. Der Verein "Wefa" umfasste viele Autoren, die heute kaum noch bekannt sind. Einem anderen Verein, der neuromantische Kreis Jung-Prag gehörten zum Beispiel Rilke, Gustav Meyring und Franz Werfel an. In dieser Zeit war Prag als Stadt des Vielvölkerstaates Österreich-Ungarn durch einen regen Austausch zwischen den Nationalitäten geprägt.

Seit 1939 war Prag als Hauptstadt des Protektorates Böhmen und Mähren mit dem Deutschen Reich verbunden. Im Jahr 1939 lebten etwa 120.000 Juden in den böhmischen Ländern, viele davon in Prag. Von diesen wurden etwa 78.000 von den Nationalsozialisten umgebracht. Als am 1. Mai 1945 in Prag die Nachricht vom Selbstmord Hitlers bekannt wurde, wurde die aus Berlin angeordnete dreitägige Trauerbeflaggung noch ohne Widerstand durchgeführt. Erst am Nachmittag des 4. Mai kam es in der Stadt zu einem Aufstand, der auch von den Truppen der Russischen Armee unterstützt wurde, und zu Barrikadenkämpfen. Am 9. Mai erreichten die Truppen der Roten Armee Prag und konnten es nach Kämpfen einnehmen. Dabei ließen über 800 Rotarmisten ihr Leben. Auf Anordnung Stalins wurden viele Angehörige der Prager Einheiten der Wlassow-Armee ebenso wie Wlassow selbst inhaftiert. Noch während der Flucht bombardierten deutsche Flugzeuge punktuell die Stadt. Heute feiert Prag an jedem 8. Mai den Tag der Befreiung. Unmittelbar nach Kriegsende im Mai 1945 wurden die Prager Deutschen fast ausnahmslos vertrieben. Viele von ihnen wurden zunächst interniert, etwa 5.000 wurden ermordet. 1945 wurden auch die in Prag ansässigen Ungarn enteignet und bis 1947 zum Teil nach Ungarn zwangsausgesiedelt.

Das ganze 20. Jahrhundert hindurch behielt Prag den Rang einer europäischen Metropole. Dem konnten weder die deutsche noch die sowjetische Besetzung oder der autoritäre Kommunismus sowjetischer Prägung etwas anhaben. Während des Prager Frühlings im Jahr 1968 wurde auf friedliche Weise versucht, den vorherrschenden autoritären Sozialismus durch einen Sozialismus mit menschlichem Antlitz zu ersetzen. Dies wurde von Truppen des Warschauer Pakts mit Waffengewalt niedergeschlagen. Im Jahr 1989 war Prag Schauplatz der sog. Samtenen Revolution, die das Ende des sozialistischen Regimes in der damaligen Tschechoslowakei bedeutete.