In 1881 namen zes vooraanstaande Amsterdammers het initiatief voor de bouw van een nieuwe concertzaal. In 1888 vond het feestelijke openingsconcert van het Concert-Gebouw plaats.

De architect van het gebouw is Adolf Leonard van Gendt, voor wie de bouwtekening van het in 1884 geopende Neue Gewandhaus in Leipzig als inspiratiebron diende. Het interieur van het gebouw is vormgegeven en ingedeeld naar het voorbeeld van het Neue Gewandhaus, dat in 1943 werd vernield.

Bij een grote renovatie van 1985 tot 1988 is aan het J.W. Brouwersplein (thans Concertgebouwplein) een nieuwe hoofdingang aangebouwd met een moderne glazen foyer, naar ontwerp van Pi de Bruijn.

Tijdens de viering in 2013 van het 125-jarig bestaan heeft het Concertgebouw het predicaat Koninklijk gekregen. Sindsdien is de officiële naam Koninklijk Concertgebouw.

Het concertgebouw is een van de drukste bezette concertzalen ter wereld. Ruim 700.000 bezoekers weten het gebouw te vinden tijdens de meer dan 900 activiteiten per seizoen.

Het is ook de thuisbasis van het Koninklijk Concertgebouworkest.