明治元年9月茨城県水戸市に生まれる。本名秀麿。

同22年(1889)、東京美術学校開学と同時に入学、橋本雅邦に師事する。
同26年第一期生として同校卒業後古画の模写 に力を入れる。
明治29年の第一回日本絵画協会共進会に『寂静』を出品，初めて「大観」の号を用いる。
明治30年、東京美術学校助教授となるが、翌年の美術学校騒動に際しては辞職組の最先鋒の一人として春草とともに同校を免職となり、天心にしたがって日本美術学院展に『屈原』を出品し、歴史画論争で話題を呼んだ。線を抑えて空気を光の描写を試みた彼の作品は、当時「朦朧体」と非難されたが、日本近代化の斬新な実験をして次代へ受け継がれた。

明治39年日本美術学院の五浦移転にしたがい五浦で『流燈』などを発表した。天心の没後は再興美術院の中心的存在として活躍。『生々流転』、『夜桜』などの傑作を生みだした。
昭和12年（1937）に文化勲章受章。
同33年没。

現在大観の生家として旧酒井家が史跡指定されている。