Yrjö Ollila syntyi Helsingissä. Hänen vanhempiensa kuoltua vanhemmat veljet lähtivät siirtolaisiksi Amerikkaan. Yrjö Ollilan äidin sisar ja tämän mies, koristemaalari Alex Rapp, ryhtyivät hänen huoltajikseen. Alex Rapp opetti maalausta Ollilalle ja tämän ystävälle Karl Fagerille, josta tuli myöhemmin Kansallisteatterin lavastaja. Ollila opiskeli Suomen Taideyhdistyksen piirustuskoulussa Helsingissä vuosina 1903−1906. 1910-luvulla hän liittyi Septem-taiteilijaryhmään, jossa suosittiin niin sanottua puhtaan paletin väriskaalaa.
Kuvataiteen lisäksi Ollila oli kiinnostunut teatterista ja musiikista. Vuonna 1919 hän sai kiinnityksen näyttelijä Elli Tompurin perustamaan Vapaa Näyttämö -teatteriin, joka esitti aikansa edistyksellisimpiä näytelmiä. Vapaa Näyttämö meni konkurssiin jo seuraavana vuonna, ja Yrjö Ollila muutti perheineen Ranskaan, jossa he asuivat aina vuoteen 1927 saakka. Tänä aikana Ollila omaksui erityisesti uusasiallisen tyylin vaikutteita. Ranskassa hän teki muun muassa seinämaalauksen pariisilaiseen Théâtre de l'Oeuvre -teatteriin.
Suomeen palattuaan Ollila suunnitteli muutamia lavastuksia Svenska Teaternille ja 1929 hänet kiinnitettiin vakinaiseksi lavastajaksi Helsingin Kansannäyttämölle. Vuonna 1932 Ollila sai tehtäväkseen suuren tilaustyön, Suomen Kansallisteatterin kattomaalauksen toteuttamisen. Yrjö Ollila menehtyi vain muutamia kuukausia maalauksen valmistumisen jälkeen.