唐朝、唐太宗李世民、貞觀元年，唐太宗曾詢問張玄素為政之道，因為欣賞他的應對與意見，就擢升張玄素為侍御史，不久又遷任給事中。貞觀四年，唐太宗下令重修洛陽的宮殿，用以預備日後前往視察時之用。張玄素上書極力勸諫，列舉五條不可的理由（全文請見下方《舊唐書》原文），文末結論大意是：
「臣聽聞阿房宮建成後秦朝百姓離散，章華台建成後楚國人心背離，等到乾元殿建成，隋朝也走向解體。況且陛下今日這般大興土木的行為，又與隋朝滅亡前的情況有何不同？役使那些剛剛經歷戰亂、身體遭受創傷的百姓，沿襲隋朝滅亡的弊病，以現在這樣的狀況來說，恐怕後果將比隋煬帝還糟糕。深深的希望陛下能再仔細考慮，不要因為這樣的緣由遭人恥笑，則天下百姓將會感到非常幸運啊。」
唐太宗說：
「你的意思是說我這樣做得話將不如隋煬帝，那麼比起夏桀、商紂呢？」
張玄素回答說：
「如果這座宮殿最終興建起來，那結果就會和那些導致國家混亂的情況一樣。況且陛下當初平定東都洛陽時，太上皇曾下敕令，那些象徵隋朝的高門大殿，應該一併焚毀。然而陛下當時認為磚瓦、木材都還可以加以運用，不該燒掉，因此請求太上皇同意將這些磚瓦木石賞賜給窮苦的百姓，好讓他們能修繕居所。這件事雖然未能獲得准許，但天下人們都認為這是陛下高尚的德行而稱讚不已。現在若不遵循以前（燒毀、分贈）的規定而決定重建宮殿，就是隋朝役使百姓之事再度興起。如此不過短短五、六年間，陛下對此事的處理方式差異居然如此之大，將何以對百姓們交代？又該如何廣施恩澤、遠揚美名呢？」
唐太宗嘆了口氣，說：
「你說得對，是我考慮得不夠周密。」
就賞賜三百匹五彩的絲織品給張玄素。魏徵知道後也感歎的說：
「張公（張玄素）論事的能力，有可挽救情勢的極大力量，可說是仁德之人的言論，則產生的益處是極其深遠啊！」
改編自 《大唐新語》
原文：
《大唐新語》．《卷二》．《極諫第三》．張玄素〈二〉
張玄素為給事中，貞觀初修洛陽宮，以備巡幸，上書極諫，其略曰：
「臣聞阿房成，秦人散；章華就，楚眾離；及乾陽畢功，隋人解體。且陛下今時功力，何異昔日，役瘡痍之人，襲亡隋之弊。以此言之，恐甚於煬帝，深願陛下思之。無為由余所笑，則天下幸甚。」
太宗曰：
「卿謂我不如煬帝，何如桀紂？」
玄素對曰：
「若此殿卒興，所謂同歸于亂。且陛下初平東都，太上皇敕，高門大殿，並宜焚毀。陛下以瓦木可用，不宜焚灼，請賜與貧人。事雖不行，天下稱為至德。今若不遵舊制，即是隋役復興。五、六年間，取舍頓異，何以昭示萬姓，光敷四海？」
太宗曰：
「善。」
賜綵三百匹。魏徵歎曰：
「張公論事，遂有回天之力，可謂仁人之言，其利溥哉！」
《舊唐書》．卷七十五．列傳第二十五．蘇世長、韋雲起、孫伏伽、張玄素：張玄素（節錄）
張玄素，蒲州虞鄉人。……太宗善其對，擢拜侍御史，尋遷給事中。
貞觀四年，詔發卒修洛陽宮乾陽殿，以備巡幸。玄素上書諫曰：
微臣竊思秦始皇之為君也，藉周室之餘、六國之盛，將貽之萬葉，及其子而亡，良由逞嗜奔欲，逆天害人者也。是知天下不可以力勝，神祗不可以親恃，惟當弘儉約，薄賦斂，慎終如始，可以永固。
方今承百王之末，屬凋弊之餘，必欲節之以禮制，陛下宜以身為先。東都未有幸期，即何須補葺？諸王今並出籓，又須營構，興發漸多，豈疲人之所望？其不可一也。
陛下初平東都之始，層樓廣殿，皆令撤毀，天下翕然，同心欣仰。豈有初則惡其侈靡，今乃襲其雕麗？其不可二也。
每承音旨，未即巡幸，此則事不急之務，成虛費之勞。國無兼年之積，何用兩都之好，勞役過度，怨讟將起。其不可三也。
百姓承亂離之後，財力凋盡，天恩含育，粗見存立，饑寒猶切，生計未安，三五年間，恐未平復。奈何營未幸之都，奪疲人之力？其不可四也。
昔漢高祖將都洛陽，婁敬一言，即日西駕，豈不知地惟土中，貢賦所均，但以形勝不如關內也。伏惟陛下化凋弊之人，革澆漓之俗，為日尚淺，未甚淳和。斟酌事宜，詎可東幸？其不可五也。
臣又嘗見隋室造殿，楹棟宏壯，大木非隨近所有，多從豫章採來。二千人曳一柱，其下施轂，皆以生鐵為之，若用木輪，便即火出。鐵轂既生，行一二里即有破壞，仍數百人別齎鐵轂以隨之，終日不過進三二十里。略計一柱，已用數十萬功，則餘費又過於此。
臣聞阿房成，秦人散；章華就，楚眾離；及乾陽畢功，隋人解體。且以陛下今時功力，何如隋日？役瘡痍之人，襲亡隋之弊，以此言之，恐甚於煬帝。深願陛下思之，無為由余所笑，則天下幸甚。
太宗曰：
「卿謂我不如煬帝，何如桀、紂？」
對曰：
「若此殿卒興，所謂同歸於亂。且陛下初平東都，太上皇敕大殿高門並宜焚毀，陛下以瓦木可用，不宜焚灼，請賜與貧人。事雖不行，然天下翕然謳歌至德。今若遵舊制，即是隋役復興。五六年間，趨舍頓異，何以昭示子孫，光敷四海？」
太宗嘆曰：
「我不思量，遂至於此。」
顧謂房玄齡曰：
「洛陽土中，朝貢道均，朕故修營，意在便於百姓。今玄素上表，實亦可依，後必事理須行，露坐亦復何苦，所有作役，宜即停之。然以卑乾尊，古來不易，非其忠直，安能若此？可賜彩二百匹。」
侍中魏徵嘆曰：
「張公論事，遂有回天之力，可謂仁人之言，其利博哉！」
累遷太子少詹事，轉右庶子。
