張觀年少時誠實好學，聞名鄉里。考取服勤辭學科，選拔為第一，任命為將作監丞、通判解州。當時鹽池吏因為貪贓事情暴露，他沒有舉劾，于是降為監河中府稅。又任果州通判，改任秘書省秘書郎。

宋仁宗即位，轉任太常丞，擢升為右正言、直史館，為三司度支判官，同修起居注，改任右司諫、知制誥、判登聞檢院，出知杭州。回朝判國子監，權發遣開封府事，進升為為翰林學士、知審官院，多次升遷官至左司郎中，以給事中權御史中丞。

當時流星、地震、雷電發生在正月，宋仁宗下詔徵求直言。張觀上書：「承平日久，政法寬慢，用度漸漸奢侈，風俗漸漸淺薄，所以導致災異。」于是上書四事：一為知人，二為嚴禁，三為尚質，四為節用。河北大雨成災，又上奏七事：「疏導積水以擴大播種，緩催拖欠以減少禁錮，寬刑罰以清理積案，收回逃田以招募百姓歸複鄉，罷除工役以先解決當務之急，止配率以豐富百姓財富，通商旅以解決糧食困難。」再任知審官院，不久拜同知樞密院事。

康定年間，對西夏作戰失利，由于宰執議論點鄉兵，久久不決，于是與王鬷、陳執中一起罷職，以資政殿學士、尚書禮部侍郎知相州。再任澶州。黃河在孫陳埽及浮梁發水，澶州人大為驚恐，有人請逃到北原來躲避水患。張觀說：「太守獨去，州民怎麼辦。」于是親自率卒徒增築大堤，堤防修完，水也退去。

張觀轉任鄆州。舊法，京東流通安邑的鹽，而瀕海之地禁止私煮。張觀上書：「利之所在，百姓趨利，雖每天在街市處決，恐怕也不能禁止，請弛禁私煮便民。」于是每年免于黥字發配的人不可勝計。歷任知應天府、孟州、河南府，以吏部侍郎兼御史中丞。因為父親張居業年高多病，請調到輕便的州郡，于是以觀文殿學士知許州。一個多月後，拜左丞。為父丁憂，悲傷過度，父親去世十一個月後就病卒。贈吏部尚書，謚號文孝。

張觀性情至孝，初為秘書郎，其父擔任州從事，于是他上書願把官職讓給父親。宋真宗嘉賞他，以張居業為京官。張觀顯貴後，張居業恩賜官至太府卿。張居業曾經路過洛陽，對當地山川風物非常讚嘆，說：「我在這裡養老就滿足了。」張觀于是買田宅、營林園，來滿足父親的心意。早起為父親奉藥、膳，然後出去工作，未嘗一日停止。情趣喜好恬淡曠達，廉潔少欲，平生寫字必寫楷書，沒有一字行書草書，像他的為人。宋仁宗飛白書「清」字賜給張觀，來褒賞他的節操。但是治理政事不是他的所長，知開封府時，有犯夜禁的百姓，張觀詰問他：「有人見到嗎？」大家傳為笑話。