I 1972 begynte utgravningene til det som skulle bli Oslo Konserthus i Vestre Vika. Oppstarten betydde at mange tiårs diskusjon om hvor huset skulle ligge, kunne legges død. Og at et skikkelig konserthus endelig skulle bygges i Oslo, nesten 120 år etter fiolinlegenden Ole Bulls innsamlingskonserter til formålet.
Heller ikke byggeperioden skulle forløpe fri for konflikter. Byggesummen ble i 1964 beregnet til 64 millioner, men este gradvis til 258 millioner, noe som selvsagt førte til heftige diskusjoner om finansieringen. Og Filharmonien fikk ingen representanter i Byggekomitéen, noe som skapte friksjon rundt oppfølgingen av orkesterets behov i det nye bygget.
Byggeprosessen støtte på sine egne utfordringer. Og når åpningsdagen endelig nærmet seg, brøt det ut strid om programmet på åpningskonserten. Skulle det hovedsakelig bestå av ny norsk musikk eller etablerte klassikere? Etter en hard konflikt med Norsk Komponistforening aksepterte orkesteret det første alternativet.
På formiddagen 22. mars 1977 ble den offisielle åpningen holdt med konserthusets styreformann Brynjulf Bull som hovedtaler. "Vi kommer sent, og vi kommer dyrt − men vi kommer, Deres Majestet!" slo Bull fast. Og han fortsatte: "Vi er ikke blitt fattigere, men rikere på å bruke så mange penger på ett bygg. Eftertiden vil takke oss for det."
På kvelden samme dag holdt Oslo-Filharmonien selve åpningskonserten for en sal fylt med celebre gjester med hele kongefamilien i spissen. Sjefdirigent Okko Kamu dirigerte før pause Klaus Egges Symfoni nr. 2 og to vinnerverk fra en komponistkonkurranse i anledning åpningen: "Opening" av Oddvar S. Kvam og "čSv" av John Persen. Etter pause ledet tidligere sjefdirigent Øivin Fjeldstad orkesteret i Johan Svendsens Symfoni nr. 2.
Åpningsprogrammet for Konserthuset fortsatte hver kveld gjennom uka, og aktiviteten i huset forble høy også i fortsettelsen. I innvielsesåret fikk alle husstander i Oslo tilsendt folderen Kom og hør hvordan vi har fått det, en stor informasjonssatsning for sin tid.
I løpet av et halvt år var det solgt 120.000 billetter til arrangementer i huset, og i løpet av to år nådde tallet på besøkere 400.000. Det skulle bli mange og lange diskusjoner om både akustikk og andre forhold i årene som fulgte. Men det kan vanskelig bestrides at huset ble en publikumssuksess.
Sagaen om konserthus for orkestermusikk i Oslo er langt eldre enn Oslo-Filharmonien. Allerede i 1860 holdt Ole Bull, sin tids store fiolinmester, tre konserter til inntekt for konserthus i Christiania.
I 1918, året før Oslo-Filharmonien holdt sin første konsert, donerte skipsreder A.F. Klaveness og kona Therese en gave på 500 000 kroner til orkesteret, som ble grunnlaget for et konserthusfond. Men de følgende tiårene ble en føljetong av diskusjoner og vedtak som ikke førte til håndfaste resultater.
Utover 1950-tallet begynte det å løsne. I 1955 ble det utlyst en arkitektkonkurranse om et konserthus, og i 1957 ble det utnevnt en vinner: svenske Gösta Åbergh. Det var tiårsdagen for denne konkurransen Oslo-Filharmoniens musikere «feiret» med sine demonstrasjoner i juni 1967.
Demonstrasjonstoget med 70 musikere, kledd i kjole og hvitt, gikk fra Universitetsplassen rundt Rådhuset og endte på konserthustomten i Vika, som fortsatt var en velfylt parkeringsplass. Der avsluttet de opptoget med marsjen «Hiv ankeret!» og kunne fastslå at de i hvert fall hadde spilt på konserthusets tomt.
Utspillet hadde stor effekt på debatten. Slik oppsummerer Mona Levin reaksjonene på demonstrasjonen i Oslo-Filharmoniens Jubileumsårbok fra 1994:
«Demonstrasjonstoget skapte stor oppmerksomhet og fikk full støtte hos publikum i pressen, radio og fjernsyn. I alle år, før og etter krigen, hadde Filharmoniens administrasjon og musikere vært permanente pådrivere for reisingen av et konserthus. Utallige artikler, kronikker, innlegg var skrevet og debattert, utallige grunner gitt for hvorledes en bedring av orkesterets arbeidssituasjon ville komme fellesskapet til gode. Nå opplevet musikklivets stedige og utrettelige foregangspersoner at Konserthuset ble et folkekrav.»
I desember 1967 ble grunnstenen til Oslo Konserthus lagt ned.